MapReduce优化方法

最新推荐文章于 2023-07-18 16:28:02 发布

不爱吃鱼的馋猫

最新推荐文章于 2023-07-18 16:28:02 发布

阅读量966

点赞数

文章标签： hadoop mapreduce hive 大数据

本文链接：https://blog.csdn.net/weixin_42716237/article/details/108012082

版权

MapReduce程序效率的瓶颈在于两点：

1.计算机性能

CPU、内存、磁盘健康、网络。就如百度能通过增加服务器解决问题，绝对不麻烦程序猿，真好用的就是提升服务器性能，有钱可以用量子计算机、银河超算。

2.I/O操作优化

避免大量磁盘I/O以及网络I/O

1）数据倾斜

2）Map和Reduce数设置不合理

3）Map运行时间太长，导致Reduce等待过久

4）小文件过多。 Hadoop怕小不怕大，如不进行处理，每个小文件都会启动一个MapTask，申请资源的时间远大于处理处理的时间。

5）大量的不可切片的超大压缩文件。比如1T的Snappy压缩文件，让一个MapTask处理。如果Snappy支持切片，估计就没有其他压缩格式的事了。

6）Spill次数过多。MapTask阶段，环形缓冲区多次落盘，势必会增加时间，可以增加环形缓冲区内存和溢写率，减少落盘次数。

7）Merge次数过多。默认溢写文件大于10个进行一次归并排序，可以上调默认值减少合并次数。

MapReduce优化方法主要从六个方面考虑：数据输入、Map阶段、Reduce阶段、IO传输、数据倾斜问题和常用的调优参数。

2.1 数据输入

（1）合并小文件：在执行MR任务前将小文件进行合并，大量的小文件会产生大量的Map任务，增大Map任务装载次数，而任务的装载比较耗时，从而导致MR运行较慢。

（2）采用CombineTextInputFormat来作为输入，解决输入端大量小文件场景。

2.2 Map阶段

（1）减少溢写（Spill）次数：通过调整mapreduce.task.io.sort.mb及mapreduce.map.sort.spill.percent参数值，增大触发Spill的内存上限，减少Spill次数，从而减少磁盘IO。

（2）减少合并（Merge）次数：通过调整mapreduce.task.io.sort.factor参数，增大Merge的文件数目，减少Merge的次数，从而缩短MR处理时间。

（3）在Map之后，不影响业务逻辑前提下，先进行Combine处理，减少 I/O，减少Reduce阶段的压力。【Combine适合汇总操作，不合适求平均数等操作，job.setCombinerClass(WordCountReducer.class)】

2.3 Reduce阶段

（1）合理设置Map和Reduce数：两个都不能设置太少，也不能设置太多。太少，会导致Task等待，延长处理时间；太多，会导致Map、Reduce任务间竞争资源，造成处理超时等错误。【可以通过数据抽样的方式，回归分析模拟出合适的ReduceTask次数】

（2）设置Map、Reduce共存：调整mapreduce.job.reduce.slowstart.completedmaps参数，使Map运行到一定程度后，Reduce也开始运行，减少Reduce的等待时间。

（3）规避使用Reduce：因为Reduce在用于连接数据集的时候将会产生大量的网络消耗。【而且Shuffle机制会有大量I/O操作】

2.4 I/O传输

（1）采用数据压缩的方式，减少网络IO的的时间。安装Snappy和LZO压缩编码器。【Hadoop 3.x 配合CentOS 7 默认支持Snappy压缩，大福利，要是再支持切片就好了】

（2）使用SequenceFile二进制文件。【很少有这样玩的了】

2.5 数据倾斜

（1）抽样和范围分区：可以通过对原始数据进行抽样得到的结果集来预设分区边界值。

（2）自定义分区：基于输出键的背景知识进行自定义分区。例如，如果Map输出键的单词来源于一本书。且其中某几个专业词汇较多。那么就可以自定义分区将这这些专业词汇发送给固定的一部分Reduce实例。而将其他的都发送给剩余的Reduce实例。

（3）Combiner：使用Combiner可以大量地减小数据倾斜。在可能的情况下，Combine的目的就是聚合并精简数据。【比如10000个<a,1>汇总，在MapTask阶段使用Combiner后，溢写到文件时就是<a,10000>，数量级瞬间降低4个】。

（4）采用Map Join，尽量避免Reduce Join。【Shuffle尽管强大，但太费时间了】

关注