MapReduce排序—分组排序

本文介绍了如何在MapReduce中实现自定义排序和分组。在第一部分,讨论了如何根据特定规则对天气数据进行排序,包括对IntWritable和Text类型的key进行排序。在第二部分,讲解了如何通过自定义分组来统计每天天气的平均温度,要求根据年月日进行分组,并计算平均温度,结果保存到HDFS指定目录。
摘要由CSDN通过智能技术生成

第1关:MapReduce排序—自定义排序

任务描述
本关任务:对天气数据按照一定排序规则进行排序。

相关知识
首先,我们回顾一下在 MapReduce 中,排序和分组在哪里被执行:
,

从上图中可以清楚地看出,在 Step1.4 也就是第四步中,需要对不同分区中的数据进行排序和分组,默认情况下,是按照 key 进行排序和分组。

在一些特定的数据文件中,不一定都是类似于 WordCount 单次统计这种规范的数据,比如下面这类数据,它虽然只有两列,但是却有一定的实践意义。

3 3
3 2
3 1
2 2
2 1
1 1
如果按照第一列升序排列,当第一列相同时,第二列将序排列,结果如下所示

1 1
2 1
2 2
3 1
3 2
3 3
在 Hadoop 默认的排序算法中,只会针对 key 值进行排序,如果 key 为封装的 int 为 IntWritable 类型,那么 MapReduce 按照数字大小对 key 排序;

如果 key 为封装 String 的 Text 类型,那么 MapReduce 将按照数据字典顺序对字符排序。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Ssaty.

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值