spark-submit代码 Error communicating with MapOutp utTracker错误解决

本文介绍了在使用`spark-submit`时遇到`Error communicating with MapOutputTracker`错误的解决方法,强调了在SparkConf中设置`setMaster("local")`的重要性,以避免提交作业时出现问题。
摘要由CSDN通过智能技术生成

spark-submit --master spark://ip:port --class com.deng.sparkTest.Test SparkTest-1.0-SNAPSHOT.jar

注意SparkConf设置setMaster("local"),否则提交后会报错:

17/04/26 16:08:29 ERROR MapOutputTrackerMaster: Error communicating with MapOutp
utTracker
java.lang.InterruptedException
        at java.util.concurrent.locks.AbstractQueuedSynchronizer.tryAcquireShare
dNanos(AbstractQueuedSynchronizer.java:1326)
        at scala.concurrent.impl.Promise$DefaultPromise.tryAwait(Promise.scala:2
08)
        at scala.concurrent.impl.Promise$DefaultPromise.ready(Promise.scala:218)

        at scala.concurrent.impl.Promise$DefaultPromise.result(Promise.scala:223
)
        at scala.concurrent.Await$$anonfun$result$1.apply(package.scala:107)
        at scala.concurrent.BlockContext$DefaultBlockContext$.blockOn(BlockConte
xt.scala:53)
        at scala.concurrent.Await$.result(package.scala:107)
        at org.apache.spark.rpc.RpcTimeout.awaitResult(RpcTimeout.scala:75)
        at org.apache.spark.rpc.RpcEndpointRef.askWithRetry(RpcEndpointRef.scala
:101)
        at org.apache.spark.rpc.RpcEndpointRef.askWithRetry(RpcEndpointRef.scala
:77)
        at org.apache.spark.MapOutputTracker.askTracker(MapOutputTracker.scala:1
10)
        at org.apache.spark.MapOutputTracker.sendTracker(MapOutputTracker.scala:
120)
        at org.apache.spark.MapOutputTrackerMaster.stop(MapOutputTracker.scala:4
68)
        at org.apache.spark.SparkEnv.stop(SparkEnv.scala:93)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值