yarn基本架构

yarn将hadoop2.x中的mrv.1的JobTracker和TaskTracker分成了一个全局的资源管理器ResourceManager和每个程序所特有的ApplicationMaster

ResourceManager负责整个集群的资源管理和分配,而ApplicationMaster则负责单个程序的管理

yarn基本组成结构

yarn使用master/slave结构,resourceManager是master,而NodeManager是salve,而RM负责对NM上的资源进行管理和分配,也就是当用户提交一个应用程序的时候,需要提供一个跟踪和管理这个程序的ApplicationMaster,它负责向RM申请资源,

RM的构成

1.调度器(schedule):根据容量和队列等限制条件,将系统中的资源分配到各个正在运行的应用程序,它仅根据资源需求进行资源的分配

2.应用程序管理器(Applications Manager):负责管理整个集群中的所有应用程序,包括任务的提交,与调度器协调资源,启动applicationMaster,监控applicationMaster的运行状态并在失败时重新启动它

ApplicationMaster

用户的每个程序包含一个AM;主要功能

1.与RM的调度器协调以获取资源

2.将得到的任务进一步分配给内部的任务;

3.与namenode通信以启动和中止服务

4.监控所有任务的状态,当失败时重启服务,

NodeManager

NM是每个节点上的资源和任务管理器,作用:

1.定时向RM汇报本节点上的资源使用情况和各个container(包含了运行一个任务的cpu,内存等资源)的运行状态:

2.接受并处理来自AM的container的启动和停止请求

Container

Container是yarn中的资源抽象,当AM向Rm申请资源时,RM为AM返回的资源就使用Container表示,而yarn为每个任务分配一个Container,且该任务只能使用Container中描述的资源,

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值