Yarn的工作流程(mr提交应用程序)

Yarn的工作流程如下图:
在这里插入图片描述

1、 用户向Yarn提交应用程序,其中包括ApplicationMaster程序、启动ApplicationMaster的命令、用户程序等。
2、ResourceManager为该程序分配第一个Container,并与对应的NodeManager通信,要求它在对应的Container中启动应用程序的ApplicationMaster。
3、ApplicationMaster首先向ResourceManager注册,这样用户就可以通过ResourceManager查看应用程序的运行状态,然后它将为各个应用程序申请资源,并监控它们的运行状态,直到运行结束。即重复步骤4~7。
4、ApplicationMaster采用轮询的方式通过RPC协议向ResourceManager申请和领取资源。
5、一旦ApplicationMaster申请到资源后,便于对应的NodeManager通信,要求它启动任务。
6、NodeManager为任务设置好运行环境(包括环境变量、JAR包、二进制程序等),将任务启动命令写到一个脚本中,并运行这个脚本启动任务。
7、各个任务通过RPC协议向ApplicationMaster汇报自己的状态和进度,以此ApplicationMaster随时掌握每个任务的运行状态,从而可以在任务失败时重启任务。在应用程序运行过程中,用户可以随时通过RPC向ApplicationMaster查看任务的运行状态。
8、应用程序运行完成后,ApplicationMaster向ResourceManager注销并关闭自己。

当用户向Yarn提交一个应用程序后,Yarn将分为两个阶段运行该应用程序:
a 第一阶段是启动ApplicationMaster;
b 第二个阶段是由ApplicationMaster创建应用程序,为它申请资源,并监控它的运行状态,直到运行结束。

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值