Hadoop系列之YARN

本文深入探讨了Hadoop YARN中的三种调度器:FIFO、Capacity Scheduler和Fair Scheduler。详细介绍了每种调度器的工作机制,如作业提交过程、资源分配方式和算法,特别是公平调度器的DRF策略。
摘要由CSDN通过智能技术生成
Yarn 是一个资源调度平台,负责为运算程序提供服务器运算资源,相当于一个分布式
操作系统平台 ,而 MapReduce 等运算程序则相当于运行于 操作系统之上的应用程序
Yarn 基础架构
YARN 主要由 ResourceManager NodeManager ApplicationMaster Container 等组件
构成。

Yarn 工作机制 


1 MR 程序提交到客户端所在的节点。
2 YarnRunner ResourceManager 申请一个 Application
3 RM 将该应用程序的资源路径返回给 YarnRunner
4 )该程序将运行所需资源提交到 HDFS 上。
5 )程序资源提交完毕后,申请运行 mrAppMaster
6 RM 将用户的请求初始化成一个 Task
7 )其中一个 NodeManager 领取到 Task 任务。
8 )该 NodeManager 创建容器 Container ,并产生 MRAppmaster
9 Container HDFS 上拷贝资源到本地。
10 MRAppmaster RM 申请运行 MapTask 资源。
11 RM 将运行 MapTask
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值