第1关:MapReduce排序—自定义排序
任务描述
本关任务:对天气数据按照一定排序规则进行排序。
相关知识
首先,我们回顾一下在 MapReduce 中,排序和分组在哪里被执行:
,
从上图中可以清楚地看出,在 Step1.4 也就是第四步中,需要对不同分区中的数据进行排序和分组,默认情况下,是按照 key 进行排序和分组。
在一些特定的数据文件中,不一定都是类似于 WordCount 单次统计这种规范的数据,比如下面这类数据,它虽然只有两列,但是却有一定的实践意义。
3 3
3 2
3 1
2 2
2 1
1 1
如果按照第一列升序排列,当第一列相同时,第二列将序排列,结果如下所示
1 1
2 1
2 2
3 1
3 2
3 3
在 Hadoop 默认的排序算法中,只会针对 key 值进行排序,如果 key 为封装的 int 为 IntWritable 类型,那么 MapReduce 按照数字大小对 key 排序;
如果 key 为封装 String 的 Text 类型,那么 MapReduce 将按照数据字典顺序对字符排序。