hadoop组件-yarn

本文介绍了Hadoop 2.x中的YARN架构,YARN作为资源调度框架,提供统一的资源管理和调度。文章详细阐述了ResourceManager、NodeManager、ApplicationMaster和Container的角色与功能,以及YARN任务的执行流程,包括客户端提交作业、资源申请、任务划分和资源释放等步骤。此外,还提及了YARN的抢占式调度特性。
摘要由CSDN通过智能技术生成

1.hadoop 2.x原型图

åå¸å¼èµæºè°åº¦ââYARNæ¡æ¶

2.YARN架构

YARN概述:

  • YARN是资源调度框架
  • 通用的资源管理系统
  • 为上层应用提供统一的资源管理和调度

YARN架构图,也是Master/Slave结构的:
分布式资源调度——YARN框架

从上图中,YARN主要由以下几个核心组件构成:

1. ResourceManager, 简称RM,整个集群同一时间提供服务的RM只有一个,它负责集群资源的统一管理和调度。以及还需要处理客户端的请求,例如:提交作业或结束作业等。并且监控集群中的NM,一旦某个NM挂了,那么就需要将该NM上运行的任务告诉AM来如何进行处理。

2. NodeManager, 简称NM,整个集群中会有多个NM,它主要负责自己本身节点的资源管理和使用,以及定时向RM汇报本节点的资源使用情况。接收并处理来自RM的各种命令,例如:启动Container。NM还需要处理来自AM的命令,例如:AM会告诉NM需要启动多少个Container来跑task。

3. ApplicationMaster

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值