spark standalone 模式下 kill job的几种方式

1.官方提供的restful API   ( 6066端口为spark standalone 默认的restful API 端口)

这个种方式不是很好使用,尤其是对于使用脚本来提交的spark job,我们很难获取job对应的driverId,而官方提供的restful API必须获取到driverID才可以杀死对应的job。

spark-submit --master spark://master:6066  --kill  ${driver-id}  这行命令其实是调用 

./bin/spark-class org.apache.spark.deploy.Client kill <master url> <driver ID> 

其中master url 必须是以spark:// 或者 mesos:// 开头的, 表示采用standalone 或者mesos调度。注意不支持 YARN的调度方式。(不支持http://开头)

curl -X POST http://master:6066/v1/submissions/kill/driver-id  这个是restful API ,必须指明driverId。

   

2.master web UI 

从master UI界面上面看,我们发现隐式的提供了kill job的post请求,经过提取,我们找到了真正的post URI, 如下

curl -X POST "http://master:8080/app/kill/?id=${app-id}&terminate=true"   其中app-id 就是web UI 界面上job的 APP ID;

一个请求直接kill 指定的任务。

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 4
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值