MapReduce和Yarn技术原理
一、MapReduce概述
- MapReduce基于Google---MapReduce论文设计开发
- 基于函数式(mapper和reducer)编程的思想,用于大规模数据集(大于1TB) 的并行计算和离线计算,
- 特点:
(1)函数式编程:程序员仅需描述做什么,具体怎么做交由系统的执行框架处理。
(2)良好的扩展性:可通过添加节点以扩展集群能力。
(3)高容错性:通过计算迁移或数据迁移等策略提高集群的可用性与容错性
二、MapReduce工作原理:分而治之
举例:(评选校级优秀学生------每个学院先评选出优秀学生-----汇总)
Map阶段和Reduce阶段
1、单词汇总为例
2、Map和Reduce的过程
4.Shuffle机制
Shuffle的定义:Map阶段和Reduce阶段之间传递中间数据的过程
三、Yarn组件架构
YARN是一个资源管理、任务调度的框架,主要包含三大模块:ResourceManager(RM)、NodeManager(NM)、ApplicationMaster(AM)。
ResourceManager负责所有资源的监控、分配和管理,一个集群只有一个
NodeManager负责每一个节点的维护,一个集群有多个
ApplicationMaster负责每一个具体应用程序的调度和协调,一个集群有多个
1、ResourceManager负责整个集群的资源管理和分配。
NodeManager以心跳的方式向ResourceManager汇报资源使用情况(目前主要是CPU和内存的使用情况)。RM只接受NM的资源回报信息,对于具体的资源处理则交给NM自己处理。
YARN Scheduler根据application的请求为其分配资源,不负责application job的监控、追踪、运行状态反馈、启动等工作
2、NodeManager是每个节点上的资源和任务管理器
(1)YARN集群每个节点都运行一个NodeManager
(2)NodeManager定时向ResourceManager汇报本节点资源(CPU、内存)的使用情况和Container的运行状态。当ResourceManager宕机时NodeManager自动连接RM备用节点。
(3)NodeManager接收并处理来自ApplicationMaster的Container启动、停止等各种请求
3、每个应用程序均包含一个ApplicationMaste
(1)负责与RM调度器协商以获取资源(用Container表示)。
(2)与NM通信以启动/停止任务。
(3)监控所有任务运行状态,并在任务运行失败时重新为任务申请资源以重启任务。