linux中spark启动进程命令以及顺序

1)首先启动hadoop

① 在Master节点上进入hadoop安装目录下,执行sbin/start-dfs.sh

② 在Slave1节点上进入hadoop安装目录下,执行sbin/start-yarn.sh

③ 在Master节点上进入hadoop安装目录下,执行sbin/mr-jobhistory-daemon.sh start historyserver

④ 在Slave1节点上进入hadoop安装目录下,执行sbin/yarn-daemon.sh start proxyserver

在Master节点命令中输入jps,显示进程为NodeManager, JobhistoryServer, DataNode, NameNode

在Slave1节点中输入jps,显示进程为DataNode, NodeManager, WebAppProxyServer, ResourceManager

在Slave2节点中输入jps,显示进程为SecondaryNameNode, DataNode, NodeManager

2)启动spark

在Master节点上,进入spark安装目录,执行sbin/start-master.sh  然后执行sbin/start-slaves.sh

Master节点

[root@Master 桌面]# jps
3646 JobHistoryServer
3219 DataNode
3119 NameNode
3482 NodeManager
3923 Worker
10217 Jps
3820 Master

Slave1节点

[root@Slave1 桌面]# jps
2837 Worker
2359 NodeManager
2710 WebAppProxyServer
4514 Jps
2120 DataNode
2257 ResourceManager

Slave2节点

[root@Slave2 桌面]# jps
2508 Worker
2186 SecondaryNameNode
2327 NodeManager
5136 Jps
2127 DataNode


此时,Master节点多了Master和Worker进程,两个子节点上多了Worker进程,则全部启动成功,Spark UI地址为:Master:4040

  • 5
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值