spark 终止 运行_Spark应用程序终止执行程序

我在独立模式下运行spark集群,并使用spark-submit运行应用程序。在spark UI阶段中,我发现执行阶段执行时间很长(> 10h,通常时间约30秒)。阶段有许多失败的任务,错误Resubmitted (resubmitted due to lost executor)。在舞台页面有Aggregated Metrics by Executor部分的地址为CANNOT FIND ADDRESS的执行者。 Spark试图无限次地重新提交此任务。如果我杀了这个阶段(我的应用程序会自动重新运行未完成的火花作业),所有工作都会继续良好。Spark应用程序终止执行程序

另外,我在火花日志中发现了一些奇怪的条目(与stage执行开始时相同)。

站长:

16/11/19 19:04:32 INFO Master: Application app-20161109161724-0045 requests to kill executors: 0

16/11/19 19:04:36 INFO Master: Launching executor app-20161109161724-0045/1 on worker worker-20161108150133

16/11/19 19:05:03 WARN Master: Got status update for unknown executor app-20161109161724-0045/0

16/11/25 10:05:46 INFO Master: Application app-20161109161724-0045 requests to kill executors: 1

16/11/25 10:05:48 INFO Master: Launching executor app-20161109161724-0045/2 on worker worker-20161108150133

16/11/

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值