MapReduce入门详解（一）

个人博客原文链接

简介

Mapreduce是一个分布式运算程序的编程框架，是用户开发“基于hadoop的数据分析应用”的核心框架；Mapreduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序，并发运行在一个hadoop集群上。

MapReduce框架的结构

一个完整的mapreduce程序在分布式运行时有三类实例进程：

1. MapReduceApplicationMaster：负责整个程序的过程调度及状态协调
2. MapTask：负责map阶段的整个数据处理流程
3. ReduceTask：负责reduce阶段的整个数据处理流程

MapReduce的运行流程

1. 一个mr程序启动的时候，最先启动的是MRAppMaster，MRAppMaster启动后根据本次job的描述信息，计算出需要的MapTask实例数量，然后向集群申请机器启动相应数量的MapTask进程。
2. Maptask进程启动之后，根据给定的数据切片范围进行数据处理，主体流程为：
   • 利用客户指定的inputformat来获取RecordReader读取数据，形成输入KV对
   • 将输入KV对传递给客户定义的map()方法，做逻辑运算，并将map()方法输出的KV对收集到缓存中