Hadoop jar包提交运行在YARN上的执行流程

在这里插入图片描述

(1) 用户提交jar包,向resourceManager请求提交任务

(2) resourceManager接收任务,并随机选择一台nadeManager启动appMaster.

(3) appMaster向resourceManager请求资源

(4) resourceManager分配资源,并将资源分配信息返回给appMaster

(5) appMaster联系Nodemanager启动相关Task

(6) 运行的task时刻想appmaster汇报进度

(7) reduce task执行结束将结果返回appMaster

(8) AppMaster将结果返回给resourceManager,并注销自己。

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
运行Hadoop集群中的jar包时卡住的问题可能有几个原因。首先,可能是由于每个虚拟机分配的内存和CPU资源太少,无法满足Hadoop运行所需的默认资源需求。这可能导致jar包运行时卡住。\[1\] 另一个可能的原因是提交不到集群。这可能是由于配置文件中的某些参数设置不正确导致的。例如,mapred-site.xml中的mapreduce.framework.name参数应该设置为yarn,以便正确提交到集群。\[2\] 此外,卡在INFO mapreduce.Job: Running job位置可能是由于yarn-site.xml中的一些参数设置不正确。例如,yarn.nodemanager.resource.memory-mb参数应该设置为足够的内存大小,yarn.scheduler.minimum-allocation-mb参数应该设置为适当的最小分配内存大小,yarn.nodemanager.vmem-pmem-ratio参数应该设置为适当的虚拟内存和物理内存比例。\[3\] 综上所述,要解决hadoop运行jar包卡住的问题,您可以尝试增加虚拟机的资源分配,确保配置文件中的参数设置正确,并根据需要调整yarn-site.xml中的参数。 #### 引用[.reference_title] - *1* *3* [解决Hadoop运行jar包时一直卡在: INFO mapreduce.Job: Running job位置的问题](https://blog.csdn.net/weixin_44177758/article/details/89893518)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [hadoop提交jar包卡住不会往下执行的解决方案](https://blog.csdn.net/weixin_33836223/article/details/90066006)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值