MapReduce生产经验

MapReduce 跑的慢的原因

MapReduce 程序效率的瓶颈在于两点：

1 ）计算机性能
CPU、内存、磁盘、网络
2 ）I/O  操作优化
（1）数据倾斜
（2）Map 运行时间太长，导致 Reduce 等待过久
（3）小文件过多

MapReduce 常用调优参数

MapReduce 数据倾斜问题

1 ）数据倾斜现象
数据频率倾斜——某一个区域的数据量要远远大于其他区域。
数据大小倾斜——部分记录的大小远远大于平均值。

 2 ）减少数据倾斜的方法
（1 ）首先检查是否空值过多造成的数据倾斜

生产环境，可以直接过滤掉空值；如果想保留空值，就自定义分区，将空值加随机数打散。最后再二次聚合。
（2 ）能在 map  阶段提前处理，最好先在 Map  阶段处理。如：Combiner 、MapJoin
（3 ）设置多个 reduce