Spark 0.9.0启动脚本——sbin/start-slaves.sh

1. 运行sbin/spark-config.sh,设置SPARK_HOME和SPARK_CONF_DIR

2. 如果conf/spark-env.sh,则运行该脚本,设置可选环境变量

3. 检测环境变量SPARK_MASTER_PORT/SPARK_MASTER_IP,为master的端口/ip,默认为7077/{hostname}

以上三项基本同start-master.sh相同 

4. 检测SPARK_WORKER_INSTANCES

1) 如果为空,则执行脚本sbin/slaves.sh并传入命令

sbin/slaves.sh的作用是使用ssh免登录进入slaves执行命令 

传入的命令是sbin/start-slave.sh 1 spark://$SPARK_MASTER_IP:$SPARK_MASTER_PORT 

2) 如果不为空,即启动多实例 。检测SPARK_WORKER_WEBUI_PORT,不存在则默认8081

循环$SPARK_WORKER_INSTANCES遍,执行sbin/slaves.sh脚本并传入命令

传入的命令是sbin/start-slave.sh $(( $i + 1 )) spark://$SPARK_MASTER_IP:$SPARK_MASTER_PORT --webui-port $(( $SPARK_WORKER_WEBUI_PORT + $i ))

即传入的第一个参数是实例序号(1开始),webui-port设置为8081递增 

 

转载于:https://www.cnblogs.com/hujunfei/p/3622189.html

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值