自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(4)
  • 收藏
  • 关注

转载 大数据组件默认端口号

大数据组件默认端口号 Hadoop: 50070:HDFS WEB UI端口 8020 : 高可用的HDFS RPC端口 9000 : 非高可用的HDFS RPC端口 8088 : Yarn 的WEB UI 接口 8485 : JournalNode 的RPC端口 8019 : ZKFC端口 19888:jobhistory WEB UI端口 Zookeeper: 2181 : 客户端连接zoo...

2019-10-30 21:32:17 691

转载 Spark map 和 flatMap 区别

Spark map 和 flatMap 区别 map: 对RDD每个元素转换 flatMap: 对RDD每个元素转换, 然后再扁平化(即将所有对象合并为一个对象) Example: data 有两行数据: a,b,c 1,2,3 scala>data.map(line1 => line1.split(",")).collect() res11: Array[Array[String]]...

2019-10-27 16:10:32 114

原创 Spark RDD求TOPN

Spark RDD求TOPN

2019-10-27 15:59:26 585

原创 **(centos虚拟机向yarn提交wordcount任务卡在running)**

(centos虚拟机向yarn提交wordcount任务卡在running) 可能的原因是安装了太多东西,可以尝把上传的到虚拟机的安装包删除掉。 我删除之后,多了几百兆的空间,可以正常向yarn提交任务。 ...

2019-09-06 22:43:42 172

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除