文章目录
Hadoop-MapReduce 生产经验
1 MapReduce 跑的慢的原因
1.1 计算机性能
CPU、内存、磁盘、网络
1.2 I/O 操作优化
- 数据倾斜
- Map 运行时间太长,导致 Reduce 等待过久
- 小文件过多
2 MapReduce 常用调优参数
2.1 优化1
2.1 优化2
3 MapReduce 数据倾斜问题
3.1 常见现象
- 数据频率倾斜——某一个区域的数据量要远远大于其他区域。
- 数据大小倾斜——部分记录的大小远远大于平均值。
3.2 减少数据倾斜的方法
- 首先检查是否空值过多造成的数据倾斜
生产环境,可以直接过滤掉空值;如果想保留空值,就自定义分区,将空值加随机数打散。最后再二次聚合。 - 能在 map 阶段提前处理,最好先在 Map 阶段处理。如:Combiner、MapJoin
- 设置多个 reduce 个数