Spark合并输出小文件

  在Spark SQL执行etl时候会有最终结果大小只有几百k，但是小文件一个分区有上千的情况。危害：

1. HDFS有最大文件数限制
2. 浪费磁盘资源（可能存在空文件）
3. Hive中进行统计，计算的时候，会产生很多个map，影响计算的速度

方法一：通过spark的coalesce()方法和repartition()方法

val rdd2 = rdd1.coalesce(8, true) （true表示是否shuffle）
val rdd3 = rdd1.repartition(8)