hadoop中的几种排序方式

前言:排序是MapReduce框架中的最重要的操作之一,MapTask和ReduceTask会对数据按照key进行排序,该操作属于Hadoop的默认行为。任何应用程序中的数据均会被排序,而不管逻辑上是否需要。(默认的排序都是按照字典顺序进行排序,且实现该排序的方法是快速排序

排序的分类:
(1) 部分排序:
MapReduce根据输入记录的键对数据集排序,保证输出的每个文件内部有序。
这种排序通常情况下是生成多个文件,例如在最后生成的文件是水果销量top10,服装销量top10,化妆品销量的top10,并且各个文件中内部依然是有序的。

(2)全排序:
最终输出的结果只有一个文件,且文件的内部有序,实现方式是只设置一个ReduceTask,但该方法在处理大型文件时效率很低,因为一台机器处理所有的文件,完全丧失了MapReduce所提供的并行架构。

(3)辅助排序(GroupingComparator分组):
在Reduce端对key进行分组,应用于:在接受的key为bean对象时,想让一个或几个字段相同的(全部字段比较不相同)的key进入到同一个reduce方法时。可以采用分组排序。

(4)二次排序:
在自定义的排序过程中,如果comparaTo中的判断条件为两个即为二次排序,为三个则为三次排序。(需要实现自定义分区、自定义排序、自定义分组)

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值