温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。
Fayson的github:
https://github.com/fayson/cdhproject
提示:代码块部分可以左右滑动查看噢
1.文档编写目的
在CDH集群中提交Spark作业,大家也都知道Spark的Driver和Executor之间通讯端口是随机的,Spark会随选择1024和65535(含)之间的端口,因此在集群之间不建议启用防火墙。在前面Fayson介绍了《如何指定Spark2作业中Driver和Executor使用指定范围内端口》,本篇文章Fayson主要介绍如何指定Spark1作业中Driver和Executor使用指定范围内的端口进行通讯。
- 内容概述
1.配置Spark Driver和Executor端口范围
2.验证端口分配
- 测试环境
-
CM和CDH版本为5.15
-
Spark版本为1.6.0
2.配置Spark Driver和Executor端口范围
1.登录到CM管理界面,进入Spark服务的配置界面
2.在Gateway分类中配置也搜索“spark-defaults.