Spark程序任务队列

本文介绍了如何获取Spark程序中的所有分析任务信息,包括Job的状态、进度和详细信息,并展示了如何通过接口实现对特定Job的取消操作。通过监控Job状态,可以实时了解任务执行情况并制作任务队列页面。
摘要由CSDN通过智能技术生成

 一、当前Spark程序所有分析任务的信息获取

1、打开swagger-ui随机点选五个分析(我在原Hadoop项目加了几个单词统计分析做实验,这里使用单词统计分析主要考虑不需要连接HBase可直接本地IDEA运行,Jar包集群环境跑应该是相同的),五个分析即5个Job,打开http://ip:4040/发现当前app所有Job是排队进行的,如下:

 2、解析以下接口获取当前app的id

http://localhost:4040/api/v1/applications

3、根据app的id解析以下接口获取当前app的所有Job(包括已完成的、正在执行的、排队等待的)

http://localhost:4040/api/v1/applications/appid/jobs

4、Job信息分析与前端交互

摘取部分Job信息:

{
  "jobId" : 4,
  "name" : "count at WordCountService.scala:31",
  "description" : null,
  "submissionTime" : "2019-10-24T01:20:09.345GMT",
  "completionTime" : null,
  "stageIds" : [ 4 ],
  "jobGroup" : null,
  "status" : "RUNNING",
  "numTasks" : 65536,
  "numActiveTasks" : 0,
  "numCompletedTasks" : 0,
  "numSkippedTasks" : 0,
  "numFailedTasks" : 0,
  "numKilledTasks" : 0,
  "numCompletedIndices" : 0,
  "numActiveStages" : 1,
  "numCompletedStages" : 0,
  "numSkippedStages" : 0,
  "numFailedStages" : 0,
  "killedTasksSummary" : { }
}, {
  "jobId" : 3,
  "name" : "count at Test1Service.scala:29",
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值