什么是YARN

YARN是Hadoop 2.x的资源管理系统,全称Yet Another Resource Negotiator。它将MapReduce从HDFS中分离,支持多种计算框架。ResourceManager负责资源分配与管理,NodeManager执行MapReduce任务并管理资源。通过YARN RPC和HTTP进行内部通信,关键指标包括资源使用、任务状态和资源分配。YARN包含ResourceManager、NodeManager、ApplicationMaster和Container等进程,实现集群资源管理和任务执行。
摘要由CSDN通过智能技术生成

1. 什么是YARN

YARN全称为Yet Another Resource Negotiator,是Hadoop 2.x中的资源管理系统。
它的主要作用是管理集群的资源,包括CPU、内存和磁盘等,以及管理MapReduce任务的执行。与Hadoop 1.x相比,YARN将MapReduce从HDFS中分离出来,使得其能够支持更多的计算框架,例如Spark、Storm等。

2. 主要角色

ResourceManager:YARN的管理节点,负责分配和管理集群资源,包括CPU、内存和磁盘等。
NodeManager:YARN的工作节点,负责执行MapReduce任务和管理资源。

3. 涉及到的角色及其功能

1.ResourceManager:YARN的管理节点,负责分配和管理集群资源,包括CPU、内存和磁盘等。它的主要功能包括:
接收客户端提交的任务请求。
分配集群资源给任务。
监控集群资源使用情况,以及任务的运行状态。

2.NodeManager:YARN的工作节点,负责执行MapReduce任务和管理资源。它的主要功能包括:
接收来自ResourceManager的任务分配请求。
管理节点上的资源,包括CPU、内存和磁盘等,以及处理任务的资源申请和释放。
监控任务的运行状态,并将状态汇报给ResourceManager。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大数据海中游泳的鱼

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值