Yarn运行原理

简单描述yarn运行原理
  1. 用户向客户端ResourceManager提交一个作业,同是指定提交到哪个队列和需要多少资源;通过读取计算引擎(如hadoop、spark)的设置参数,如果没有则默认
  2. ResourceManager在收到请求之后,会根据哪个队列和资源量大小,选取一个NodeManager,通知它启动一个特殊的container–ApplicationMaster,后面的流程交由它处理
  3. ApplicationMaster向ResourceManager注册或,根据自己的需求,申请多少个container(进程),资源量,所在位置等因素;
  4. 如果ResourceManager判断资源足量,RM,由ApplicationMaster通知NodeManager启动container;
  5. container启动后执行具体的任务,NodeManager监控任务执行情况,如果container超过其使用的内存,会将其杀死;
  6. container向ApplicationMaster报告自己的运行情况,完成就由ApplicationMaster申请注销;
详细讲述yarn运行原理

Yarn执行流程图

Yarn详细图解:
  1. yarnrunner将作业提交到ResourceManager(简称RM)上
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值