YARN的工作机制

YARN工作机制主要包括ResourceManager、NodeManager和Application Master。ResourceManager负责作业管理与调度,NodeManager监控节点资源,Application Master管理作业任务。作业提交流程为:Client提交作业给ResourceManager,ResourceManager分配container,启动Application Master,Application Master向ResourceManager注册并申请资源,最后由NodeManager执行任务。
摘要由CSDN通过智能技术生成

 ResourceManager:

        它是master上的进程,负责管理和调度。处理来自client的提交作业/杀死作业的请求;

        启动/监控Application Master;监控NodeManager。

 NodeManager:

        他负责当前slave节点的资源管理和调度,task的运行。

        他会向ResourceManager回报资源/Container的情况;

        接受来自ResourceManager对于Container的启停命令。

 Application Master:

        每一个提交的作业都会有一个对应的Application Master来负责管理。

        他负责进行切分;向ResourceManager去申请资源,并分配任务&

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值