借用一下博主的图片 因为我忘记截图了
这个博主用的Spark版本是2.3.0版本的,我用的是Spark2.4.0版本的不过问题都差不多 用同样的方式也解决了 礼貌附上链接
首先主机查看jps发现Master节点是成功启动的,但是web端不显示work节点。
然后去查看log
cd Spark安装目录
cd logs目录
ls 查看日志
vim 【Tab】补全查看日志内容
发现日志中出现报错
MasterArguments:66 - SPARK MASTER IP is deprecated, please use SPARK MASTER HOST
意思是需要将SPARK_MASTER_IP改为SPARK_MASTER_HOST,同时要用真实的IP地址,不能用/etc/hosts文件中的映射master*
解决:
修改spark-env.sh文件
cd /usr/local/spark/conf 进入spark配置文件目录
vim spark-env.sh 打开并编辑 spark-env.sh文件
修改主机从机的所有的spark-env.sh文件重新启动就行了
/usr/local/spark/sbin/stop-master.sh
/usr/local/spark/sbin/stop-slaves.sh
/usr/local/spark/sbin/start-master.sh
/usr/local/spark/sbin/start-slaves.sh
根据wls博客会发现在他那个时代用SPARK_MASTER_IP是可以的,技术更替太快了?