前言:排序是MapReduce框架中的最重要的操作之一,MapTask和ReduceTask会对数据按照key进行排序,该操作属于Hadoop的默认行为。任何应用程序中的数据均会被排序,而不管逻辑上是否需要。(默认的排序都是按照字典顺序进行排序,且实现该排序的方法是快速排序。
)
排序的分类:
(1) 部分排序:
MapReduce根据输入记录的键对数据集排序,保证输出的每个文件内部有序。
这种排序通常情况下是生成多个文件,例如在最后生成的文件是水果销量top10,服装销量top10,化妆品销量的top10,并且各个文件中内部依然是有序的。
(2)全排序:
最终输出的结果只有一个文件,且文件的内部有序,实现方式是只设置一个ReduceTask,但该方法在处理大型文件时效率很低,因为一台机器处理所有的文件,完全丧失了MapReduce所提供的并行架构。
(3)辅助排序(GroupingComparator分组):
在Reduce端对key进行分组,应用于:在接受的key为bean对象时,想让一个或几个字段相同的(全部字段比较不相同)的key进入到同一个reduce方法时。可以采用分组排序。
(4)二次排序:
在自定义的排序过程中,如果comparaTo中的判断条件为两个即为二次排序,为三个则为三次排序。(需要实现自定义分区、自定义排序、自定义分组)。