MapReduce原理解析以Shuffle过程详解

MapReduce原理解析以Shuffle过程详解

MapReduce思想

MapReduce思想在生活中处处可见，我们或多或少都曾接触过这种思想。MapReduce的思想核心是分
而治之，从而充分利用了并行处理的优势。即使是发布过论文实现分布式计算的谷歌也只是实现了这种思想，而不是自己原创。

MapReduce任务过程是分为两个处理阶段：

• Map阶段：Map阶段的主要作用是“分”，即把复杂的任务分解为若干个“简单的任务”来并行处理。Map阶段的这些任务可以并行计算，彼此间没有依赖关系。
• Reduce阶段：Reduce阶段的主要作用是“合”，即对map阶段的结果进行全局汇总。
  

MapReduce原理分析

map阶段处理的数据如何传递给reduce阶段，是MapReduce框架中最关键的一个流程，这个流程就叫shuffle。

shuffle: 洗牌、发牌——（核心机制：数据分区，排序，分组， combine，合并等过程）

整体流程如下图所示：

接下来，通过分别介绍MapTask和ReduceTask的运行机制，来详细介绍Shuffle流程。

MapTask运行机制详解

MapTask的流程图如上图所示，对关键部分进行了标注。接下来针对每个部分详细进行介绍。
详细步骤：

1. 首先，读取数据组件InputFormat（默认TextInputFormat）会通过getSplits方法对输入目录中文件进行逻辑切片规划得到splits（默认是按照128M大小对文件进行切片），有多少个split就对应启动多少个MapTask。split与block的对应关系默认是一对一。
2. 将输入文件切分为splits之后，由RecordReader对象（默认LineRecordReader，Map阶段对文件进行读取的对象）进行读取，以\n作为分隔符，读取一行数据，返回<key，value>。Key表示每行首字符偏移值，value表示这一行文本内容。
3. 读取split返回<key,value>，进入用户自己继承的Mapper类中，执行用户重写的map函数。
   RecordReader读取一行这里调用一次。
4. map逻辑完之后，将map的每条结果通过context.write进行collect数据收集。在collect中，会先
   对其进行分区处理，默认使用HashPartitioner，即根据key的hashcode进行分区。

MapReduce提供Partitioner接口，它的作用就是根据key或value及reduce的数量来决定当前的这对输出数据最终应该交由哪个reduce task处理。默认对key hash后再以reduce task数量取模(通过查看源码可知)。默认的取模方式只是为了平均reduce的处理能力，如果用户自己对Partitioner有需求，可以订制并设置到job上。

5. 接下来，会将数据写入内存，内存中这片区域叫做环形缓冲区，缓冲区的作用是批量收集map结果，减少磁盘IO的影响。我们的key/value对以及Partition的结果都会被写入缓冲区。当然写入之前，key与value值都会被序列化成字节数组。

   • 环形缓冲区其实是一个数组，数组中存放着key、value的序列化数据和key、value的元数据信息，包括partition、key的起始位置、value的起始位置以及value的长度。环形结构是一个抽象概念。

   • 缓冲区是有大小限制，默认是100MB。当map task的输出结果很多时，就可能会撑爆内存，所以需要在一定条件下将缓冲区中的数据临时写入磁盘，然后重新利用这块缓冲区。这个从内存往磁盘写数据的过程被称为Spill，中文可译为溢写。这个溢写是由单独线程来完成，不影响往缓冲区写map结果的线程。溢写线程启动时不应该阻止map的结果输出，所以整个缓冲区有个溢写的比例spill.percent。这个比例默认是0.8，也就是当缓冲区的数据已经达到阈值（buffer size * spill percent = 100MB * 0.8 = 80MB），溢写线程启动，锁定这80MB的内存，执行溢写过程。Map task的输出结果还可以往剩下的20MB内存中写，互不影响。

6. 当溢写线程启动后，需要对这80MB空间内的key做排序(Sort)。排序是MapReduce模型默认的行为!

   • 如果job设置过Combiner，那么现在就是使用Combiner的时候了。将有相同key的key/value对的value加起来，减少溢写到磁盘的数据量Combiner会优化MapReduce的中间结果，所以它在整个模型中会多次使用。
   • 那哪些场景才能使用Combiner呢？从这里分析，Combiner的输出是Reducer的输入，Combiner绝不能改变最终的计算结果。Combiner只应该用于那种Reduce的输入key/value与输出key/value类型完全一致，且不影响最终结果的场景。比如累加，最大值等。Combiner的使用一定得慎重，如果用好，它对job执行效率有帮助，反之会影响reduce的最终结果。

7. 合并溢写文件：每次溢写会在磁盘上生成一个临时文件（写之前判断是否有combiner），如果map的输出结果真的很大，有多次这样的溢写发生，磁盘上相应的就会有多个临时文件存在。当整个数据处理结束之后开始对磁盘中的临时文件进行merge合并，因为最终的文件只有一个，写入磁盘，并且为这个文件提供了一个索引文件，以记录每个reduce对应数据的偏移量。

至此map整个阶段结束!!

MapTask的一些配置，官方参考地址:
https://hadoop.apache.org/docs/r2.9.2/hadoop-mapreduce-client/hadoop-mapreduce- client-core/mapred-default.xml

MapTask的并行度分析

1. MapTask并行度思考

MapTask的并行度决定Map阶段的任务处理并发度，从而影响到整个Job的处理速度。

思考：MapTask并行任务是否越多越好呢？哪些因素影响了MapTask并行度？
答案肯定是不是的。 首先MapTask并行任务越多，MR框架在并行运算的同时也会消耗更多资源，并行度越高资源消耗也越高，假设129M文件分为两个分片，一个是128M，一个是1M；对于1M的切片的Maptask来说，太浪费资源。通过阅读源码可以知道，为了避免上述这种问题，Map阶段在对数据文件进行切分时，设定了一个阈值 （点进FileInputFormat类中找到getSplits方法）：

图中的SPLIT_SLOP=1.1即是该阈值。当文件大小与切片大小的比值大于1.1.时，当作一个独立的切片。当剩下的部分小于该阈值时，直接当作一个切片来处理。所以如果一个文件仅仅比128M大一点点也被当成一个split来对待，而不是多个split.

ReduceTask 工作机制

Reduce大致分为copy、sort、reduce三个阶段，重点在前两个阶段。copy阶段包含一个eventFetcher来获取已完成的map列表，由Fetcher线程去copy数据，在此过程中会启动两个merge线程，分别为inMemoryMerger和onDiskMerger，分别将内存中的数据merge到磁盘和将磁盘中的数据进行merge。待数据copy完成之后，copy阶段就完成了，开始进行sort阶段，sort阶段主要是执行finalMerge操作，纯粹的sort阶段，完成之后就是reduce阶段，调用用户定义的reduce函数进行处理。

详细步骤

• Copy阶段，简单地拉取数据。Reduce进程启动一些数据copy线程(Fetcher)，通过HTTP方式请求maptask获取属于自己的文件。
• Merge阶段。这里的merge如map端的merge动作，只是数组中存放的是不同map端copy来的数值。Copy过来的数据会先放入内存缓冲区中，这里的缓冲区大小要比map端的更为灵活。merge有三种形式：内存到内存；内存到磁盘；磁盘到磁盘。默认情况下第一种形式不启用。当内存中的数据量到达一定阈值，就启动内存到磁盘的merge。与map 端类似，这也是溢写的过程，这个过程中如果你设置有Combiner，也是会启用的，然后在磁盘中生成了众多的溢写文件。第二种merge方式一直在运行，直到没有map端的数据时才结束，然后启动第三种磁盘到磁盘的merge方式生成最终的文件。
• 合并排序。把分散的数据合并成一个大的数据后，还会再对合并后的数据排序。
• 对排序后的键值对进行分组操作。按照key值进行分组，相同key的数据组成一个集合。这里要注意分组和map阶段分区的区别，map阶段分区将相同key值的数据放入同一分区中并送到同一个reduce task任务中处理。如果想要自定义分组规则， 还需要重写WritableComparator中的compare方法，并添加到job中job.setGroupingComparatorClass()
• 分组后，键相等的键值对调用一次reduce方法，每次调用会产生零个或者多个键值对，最后把这些输出的键值对写入到HDFS文件中。这里注意reduce方法的key是一组相同key的kv的第一个key作为传入reduce方法的key。

注意事项：
1.自定义分区器时最好保证分区数量与reduceTask数量保持一致；
2. 如果分区数量不止1个，但是reduceTask数量1个，此时只会输出一个文件。
3. 如果reduceTask数量大于分区数量，但是输出多个空文件
4. 如果reduceTask数量小于分区数量，有可能会报错。

ReduceTask并行度

ReduceTask的并行度同样影响整个Job的执行并发度和执行效率，但与MapTask的并发数由切片数决定不同，ReduceTask数量的决定是可以直接手动设置：

// 默认值是1，手动设置为4
job.setNumReduceTasks(4);

注意事项

1. ReduceTask=0，表示没有Reduce阶段，输出文件数和MapTask数量保持一致；
2. ReduceTask数量不设置默认就是一个，输出文件数量为1个;
3. 如果数据分布不均匀，可能在Reduce阶段产生倾斜；数据倾斜就是某个reduceTask处理的数据量 远远大于其它节点

Shuffle过程中为什么要做sort

shuffle排序，按字典顺序排序的，目的是把相同的的key可以提前一步放到一起。

shuffle就是把key相同的东西放到一起去，其实不用sort(排序)也能shuffle，那为什么要sort排序呢？

sort是为了通过外排(外部排序)降低内存的使用量：因为reduce阶段需要分组，将key相同的放在一起进行规约，使用了两种算法：hashmap和sort，如果在reduce阶段sort排序(内部排序)，太消耗内存，而map阶段的输出是要溢写到磁盘的，在磁盘中外排可以对任意数据量分组(只要磁盘够大)，所以，map端排序(shuffle阶段)，是为了减轻reduce端排序的压力。