Yarn模块

本文详细介绍了YARN(Yet Another Resource Negotiator)的架构和模块功能,包括Resource Manager和Node Manager的角色,以及FIFO、FAIR和CAPACITY三种调度器的工作原理。此外,还阐述了YARN的资源调度过程,Job在YARN上的提交流程,以及YARN产生的背景,分析了Hadoop 1.0中MapReduce资源调度的不足,并对比了Hadoop 2.0(MapReduce v2)如何通过YARN实现资源调度和应用程序运行的分离,提高资源利用率和系统的扩展性。
摘要由CSDN通过智能技术生成

一.Yarn架构和模块功能

 

主节点-resourceManager

功能:

1.资源调度的老大,为每一个job应用程序分配资源,分配资源给nodemanager

主要组成:

             1.ASM   applicationsmanager  应用程序管理者

             2.Scheduler   调度器 --- 决定应用程序执行顺序,时间

                调度器种类:

                                     1.FIFO - first in first out  先进先出

                                     2.FAIR - 公平调度器,所有的job平分资源

                                     3.CAPACITY -  计算能力调度器,根据每一个job的需求  自己手动配置资源,配置资源配比

从节点-nodeManager

功能:

          1.为应用程序真正提供资源

nodemanager在进行资源提供的时候以container(容器)为单位进行提供

    container:抽象资源容器/逻辑资源容器      

        目的:范围划分,资源隔离

  container封装了一定数量的资源    内存  io   cpu  网络等资源 ,没有将资源真正的物理切分出来,container 是提供资源的最小单位

对应关系:

    1maptask/reducetask-----1个cont

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值