一、Yarn的作用
在大数据生态环境中,yarn主要有两个作用:资源管理和程序调度。
二、Yarn的组成
主要由ResourceManager、NodeManager、ApplicationMaster 和 Container 等组件
构成。
三、Yarn的基础架构
(1)ResourceManager作用:
1)处理客户端请求;2)监控NodeManager,对各个NodeManager上的资源进行统一管理和调度;3)给ApplicationMaster分配空闲的Container运行并监控其运行状态(Scheduler来完成); 主要组成:资源调度器(Sheduler)和应用程序管理器(ApplicationManager)。
(2)NodeManager作用:
1)负责管理单个节点上的资源;2)定时的向RM汇报本节点上的资源使用情况和Container的运行状态。
(3)ApplicationMaster作用:
1)负责整个任务执行的监控,可以向RM汇报任务执行的状态,重启失败任务等;2)向RM为应用程序申请资源并分配给内部的任务。
(4)Container
可以理解为Yarn 中的资源抽象,封装了某