结合刘老师上课带我们学习的内容和课下自己的拓展总结如下:
1 MapReduce原理
MapReduce作为一种简化并行计算的编程模型 ,构思体现在如下的三个方面:
- 如何对付大数据处理:分而治之
- 构建抽象模型:Map和Reduce
- 统一构架,隐藏系统层细节
MapReduce 进程
一个完整的 MapReduce 程序在分布式运行时有三类实例进程:
(1)MrAppMaster
:负责整个程序的过程调度及状态协调。
(2)Map Task
:负责 Map 阶段的整个数据处理流程。
(3)ReduceTask
:负责 Reduce 阶段的整个数据处理流程。
MapReduce不管是输入还是输出,数据都是以<key,value>键值对的形式存在的。
关于inputpath
:
指向的是一个文件,mr就处理这一个文件
指向的是一个目录,mr就处理该目录下所有的文件, 整体当做数据集处理。
关于outputpath
:
要求指定的目录为空目录 不能够存储 否则执行校验失败。
整体流程:
1.1 Map阶段执行流程
第一阶段是:把输入目录下文件按照一定的标准逐个进行逻辑切片
,形成切片规划。默认情况下,Split size = Block size。每一个切片由一个MapTask处理。(getSplits)
第二阶段是:对切片中的数据按照一定的规则解析成<key,value>对
。默认规则是把每一行文本内容解析成键值对。key是每一行的起始位置(单位是字节),value是本行的文本内容。(TextInputFormat)
第三阶段是:调用Mapper类中的map方法。上阶段中每解析出来的一个<k,v>,调用一次map方法
。每次调用map方法会输出零个或多个键值对。
第四阶段是:按照一定的规则对第三阶段输出的键值对进行分区
。默认是只有一个区。分区的数量就是Reducer任务运行的数量。默认只有一个Reducer任务。
第五阶段是:对每个分区中的键值对进行排序
。首先,按照键进行排序,对于键相同的键值对,按照值进行排序。比如三个键值对<2,2>、<1,3>、<2,1>,键和值分别是整数。那么排序后的结果是<1,3>、<2,1>、<2,2>。如果有第六阶段,那么进入第六阶段;如果没有,直接输出到文件中。
第六阶段是:对数据进行局部聚合处理
,也就是combiner处理。键相等的键值对会调用一次reduce方法。经过这一阶段,数据量会减少。本阶段默认是没有的。
1.2 Shuffle机制
map阶段处理的数据如何传递给reduce阶段,是MapReduce框架中最关键的一个流程,这个流程就叫shuffle。shuffle: 洗牌、发牌——(核心机制:数据分区,排序,合并)。
shuffle是Mapreduce的核心,它分布在Mapreduce的map阶段和reduce阶段。一般把从Map产生输出开始到Reduce取得数据作为输入之前的过程称作shuffle。
1).Collect阶段
:将MapTask的结果输出到默认大小为100M的环形缓冲区,保存的是key/value,Partition分区信息等。
2).Spill阶段
:当内存中的数据量达到一定的阀值的时候,就会将数据写入本地磁盘,在将数据写入磁盘之前需要对数据进行一次排序的操作,如果配置了combiner,还会将有相同分区号和key的数据进行排序。
3).Merge阶段
:把所有溢出的临时文件进行一次合并操作,以确保一个MapTask最终只产生一个中间数据文件。
4).Copy阶段
:ReduceTask启动Fetcher线程到已经完成MapTask的节点上复制一份属于自己的数据,这些数据默认会保存在内存的缓冲区中,当内存的缓冲区达到一定的阀值的时候,就会将数据写到磁盘之上。
5).Merge阶段
:在ReduceTask远程复制数据的同时,会在后台开启两个线程对内存到本地的数据文件进行合并操作。
6).Sort阶段
:在对数据进行合并的同时,会进行排序操作,由于MapTask阶段已经对数据进行了局部的排序,ReduceTask只需保证Copy的数据的最终整体有效性即可。
Shuffle中的缓冲区大小会影响到mapreduce程序的执行效率,原则上说,缓冲区越大,磁盘io的次数越少,执行速度就越快。
1.3 Reduce阶段执行流程
第一阶段是:Reducer任务会主动从Mapper任务复制其输出的键值对
。Mapper任务可能会有很多,因此Reducer会复制多个Mapper的输出。
第二阶段是:把复制到Reducer本地数据,全部进行合并
,即把分散的数据合并成一个大的数据。再对合并后的数据排序
。
第三阶段是:对排序后的键值对调用reduce方法。键相等的键值对调用一次reduce方法
,每次调用会产生零个或者多个键值对。最后把这些输出的键值对写入到HDFS文件中。
2 MapReduce应用
2.1 单词词频统计WordCount
2.2 倒排索引
倒排索引是文档检索系统中最常用的数据结构,被广泛应用于全文搜索引擎。倒排索引主要用来存储某个单词(或词组)在一组文档中的存储位置的映射,提供了可以根据内容来查找文档的方式,而不是根据文档来确定内容,因此称为倒排索引(Inverted Index)。带有倒排索引的文件我们称为倒排索引文件,简称倒排文件(Inverted File)。
现假设有三个源文件file1.txt、file2.txt和file3.txt,需要使用倒排索引的方式对这三个源文件内容实现倒排索引,并将最后的倒排索引文件输出。
首先,使用默认的TextInputFormat类对每个输入文件进行处理,得到文本中每行的偏移量及其内容。Map过程首先分析输入的<key,value>键值对,经过处理可以得到倒排索引中需要的三个信息:单词、文档名称和词频。
经过Map阶段数据转换后,同一个文档中相同的单词会出现多个的情况,而单纯依靠后续Reduce阶段无法同时完成词频统计和生成文档列表,所以必须增加一个Combine阶段,先完成每一个文档的词频统计。
经过上述两个阶段的处理后,Reduce阶段只需将所有文件中相同key值的value值进行统计,并组合成倒排索引文件所需的格式即可。
2.3 数据去重
数据去重的最终目标是让原始数据中出现次数超过一次的数据在输出文件中只出现一次。在MapReduce流程中,map的输出<key,value>经过shuffle过程聚集成<key,value-list>后交给reduce。我们自然而然会想到将同一个数据的所有记录都交给一台reduce机器,无论这个数据出现多少次,只要在最终结果中输出一次就可以了。具体就是reduce的输入应该以数据作为key,而对value-list则没有要求(可以设置为空)。当reduce接收到一个<key,value-list>时就直接将输入的key复制到输出的key中,并将value设置成空值,然后输出<key,value>。
MaprReduce去重流程如下图所示: