mapreduce的自定义排序

默认情况下,MapReduce使用内置的排序规则对数据进行排序,如数值大小或字典顺序。要实现自定义排序,需创建一个实现了`WritableComparable`接口的类,作为map输出的key,确保其具有序列化、反序列化和比较能力。通过重写`write()`、`readFields()`和`compareTo()`方法,可以定制排序逻辑。如果自定义类不作为map输出的key,只需实现`Writable`接口。
摘要由CSDN通过智能技术生成

默认排序:

默认的数据类型:IntWritable,LongWritable,NullWritable…Text等
默认的类型都实现了WritableComparetable接口,按照compareTo排完序的
map ------shuffle(分区—>排序–>分组)-----reduce
在shuffle过程中,先按照map输出的key进行排序
如果key是数值类型,按大小排序
如果key是字符串类型,按照字典顺序升序排
在按照map输出的key进行分组

运用shuffle过程中的排序:
想要运用shffle过程中的排序,则排序字段为map输出的key。

自定义排序----二次排序

这个自定义类需要放在map输出的key中
map输出的key的自定义类:
1)具备序列化和反序列化的的能力 (Wtitable
2)shuffle中按照map输出的key进行排序,自定义类具备培排序的能力 (Comparbale
hadoop框架中已经提供了两个功能集成的接口:
WritableComparable 既具备序列化的能力,又具备排序的能力
public interface Writab

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值