【Yarn】系统架构&高可用

Yarn采用主从架构,Resource Manager作为主节点,Node Manager为从节点,两者与HDFS DataNode部署在同一节点。Resource Manager支持高可用,通过Active和Standby状态实现。客户端提交作业后,Resource Manager分配Container给Application Master,Application Master负责Task的调度和管理。当Resource Manager宕机时,Zookeeper会选举新的Active节点并恢复数据,实现平滑切换。
摘要由CSDN通过智能技术生成

系统架构&高可用

系统架构

img

Yarn在架构上是主从架构,其中Resource Manager是主节点,Node Manager是从节点。在架构部署上,Node Manager与HDFS的DataNode安装在同一节点,以便将计算任务移动到数据上。

其中主节点Resource Manager可以有热备节点,以实现集群高可用。当前主节点为Active状态,热备节点为Standby状态。

客户端Client向主节点(Resource Manager)提交作业后,Resource Manager会在Node Manager上为当前作业(Job)分配资源。

Node Manager上分配的资源会封装成Container,相当于是一个容器(小型虚拟机),它包含了作业运行必备的CPU、内存、环境变量等资源。

Resource Manager分配完资源之后,之前在Hadoop 1.x中提到的作业管理怎么办?由作业自己进行管理。

作业(Job)提交后,Resource Manager首先会找一个空闲的Node Ma

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

桥路丶

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值