一.Yarn架构和模块功能
主节点-resourceManager
功能:
1.资源调度的老大,为每一个job应用程序分配资源,分配资源给nodemanager
主要组成:
1.ASM applicationsmanager 应用程序管理者
2.Scheduler 调度器 --- 决定应用程序执行顺序,时间
调度器种类:
1.FIFO - first in first out 先进先出
2.FAIR - 公平调度器,所有的job平分资源
3.CAPACITY - 计算能力调度器,根据每一个job的需求 自己手动配置资源,配置资源配比
从节点-nodeManager
功能:
1.为应用程序真正提供资源
nodemanager在进行资源提供的时候以container(容器)为单位进行提供
container:抽象资源容器/逻辑资源容器
目的:范围划分,资源隔离
container封装了一定数量的资源 内存 io cpu 网络等资源 ,没有将资源真正的物理切分出来,container 是提供资源的最小单位
对应关系:
1maptask/reducetask-----1个cont