1. 什么是YARN
YARN全称为Yet Another Resource Negotiator,是Hadoop 2.x中的资源管理系统。
它的主要作用是管理集群的资源,包括CPU、内存和磁盘等,以及管理MapReduce任务的执行。与Hadoop 1.x相比,YARN将MapReduce从HDFS中分离出来,使得其能够支持更多的计算框架,例如Spark、Storm等。
2. 主要角色
ResourceManager:YARN的管理节点,负责分配和管理集群资源,包括CPU、内存和磁盘等。
NodeManager:YARN的工作节点,负责执行MapReduce任务和管理资源。
3. 涉及到的角色及其功能
1.ResourceManager:YARN的管理节点,负责分配和管理集群资源,包括CPU、内存和磁盘等。它的主要功能包括:
接收客户端提交的任务请求。
分配集群资源给任务。
监控集群资源使用情况,以及任务的运行状态。
2.NodeManager:YARN的工作节点,负责执行MapReduce任务和管理资源。它的主要功能包括:
接收来自ResourceManager的任务分配请求。
管理节点上的资源,包括CPU、内存和磁盘等,以及处理任务的资源申请和释放。
监控任务的运行状态,并将状态汇报给ResourceManager。