解决spark编程模式下无法连接master的问题

在Ubuntu 16上使用Spark 2.3.3遇到Standalone模式下应用被杀死的问题,错误信息为'All masters are unresponsive!'。通过检查配置文件、启动命令及Maven项目的依赖,发现可能是Spark版本与编程依赖包不一致导致。更新依赖为Spark 2.3.3后,程序成功运行。
摘要由CSDN通过智能技术生成

环境: Ubuntu 16  spark 2.3.3  jdk1.8 hadoop 2.7

使用spark standalone mode 部署spark,参考: http://spark.apache.org/docs/latest/spark-standalone.html

配置文件: ${SPARK_HOME}/conf 创建spaek-env.sh文件

在${SPARK_HOME}/sbin下开启  ./spark-master.sh  ./spark-slave.sh spark://hot:7077

使用 ${SPARK_HOME}/bin/spark-submit --class xxx --master xxx /path/to/jar 可以正常执行

创建maven工程:

编程上图代码运行:出现如下错误:

ERROR StandaloneSchedulerBackend: Application has been killed. Reason: All masters are unresponsive! Giving up.

日志中的错误如下:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值