YARN的概述

        为克服Hadoop 1.0 HDFS MapReduce 存在的各种问题⽽提出的,针对 Hadoop 1.0中的 MapReduce 在扩展性和多框架⽀持⽅⾯的不⾜,提出了全新的资源管理框架 YARN
        Apache YARN( Yet another Resource Negotiator 的缩写)是 Hadoop 集群的资源 管理系统,负责为计算程序提供服务器计算资源,相当于⼀个分布式的操作系统平台,⽽MapReduce 等计算程序则相当于运⾏于操作系统之上的应⽤程序
        yarn被引⼊ Hadoop2, 最初是为了改善MapReduce的实现,但是因为具有⾜够的通 ⽤性,同样可以⽀持其他的分布式 计算模式,⽐如Spark,Tez 等计算框架。
注意:还有⼀层应⽤是运⾏在 MapReduce Spark 或者 Tez 之上的处理框架,如 Pig,Hive和 Crunch 等。

YARN的设计思想

        yarn的基本思想是将资源管理和作业调度 / 监视功能划分为单独的守护进程。其思想是拥有⼀个全局ResourceManager (RM) ,以及每个应⽤程序拥有⼀个ApplicationMaster (AM)。应⽤程序可以是单个作业,也可以是⼀组作业

YARN基本架构

         YARN是一个资源管理、任务调度的框架,主要包含三大模块:ResourceManager(RM)、NodeManager(NM)、ApplicationMaster(AM)

ResourceManager,是在系统中的所有应⽤程序之间仲裁资源的最终权威,即管理整个集群上的所有资源分配,内部含有⼀个Scheduler(资源调度器)

NodeManager ,是每台机器的资源管理器,也就是单个节点的管理者,负责启动和监视容器 (container) 资源使⽤情况,并向 ResourceManager 及其 Scheduler 报告使⽤ 情况
container : 即集群上的可使⽤资源,包含 cpu 、内存、磁盘、⽹络等
ApplicationMaster (简称 AM )实际上是框架的特定的库,每启动⼀个应⽤程序,都会启动⼀个AM ,它的任务是与 ResourceManager 协商资源,并与 NodeManager ⼀起执 ⾏和监视任务

YARNMapReduce1的⽐较

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值