Hadoop的MapReduce如何自定义分组

虽然在MR运行的时候回以key为核心进行分组操作,但是有时候我们需要自定义分组来实现一些特别的功能,下面我给大家准备了一个自定义分组的简单例子,希望可以帮到大家

package com.wy;

import org.apache.hadoop.io.WritableComparable;
import org.apache.hadoop.io.WritableComparator;

public class OrderGroup extends WritableComparator {

    /**
     * 这个构造器的格式必须怎么写,不要改变
     * 其中第一个参数是MapReducer运行时的key
     * 第二个是指是否使用这个类,一般都是true
     */
    public OrderGroup() {
        super(OrderBean.class,true);
    }

    /**
     * 在这个方法中书写共性条件
     * 结果的逻辑和一般的排序方法同理
     */
    @Override
    public int compare(WritableComparable a, WritableComparable b) {
        OrderBean oa= (OrderBean) a;
        OrderBean ob= (OrderBean) b;
        return oa.getUid().compareTo(ob.getUid());
    }

}

之后千万不要忘了在Driver哪里设置

    public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException {

        Configuration  cfg = new Configuration() ;
        //获取到任务
        Job job = Job.getInstance(cfg) ;
        job.setJarByClass(OrderDriver.class);
        //设置map reduce类
        job.setMapperClass(OrderMapper.class);
        job.setReducerClass(OrderReduce.class);
		
		//设置自定义分组类
        job.setGroupingComparatorClass(OrderGroup.class);
        
        //对输入输出参数设置
        // Text, IntWritable
        job.setOutputKeyClass(OrderBean.class);
        job.setMapOutputValueClass(NullWritable.class);

        job.setMapOutputKeyClass(OrderBean.class);
        job.setMapOutputValueClass(NullWritable.class);
    
        //设置输入输出路径
        FileInputFormat.setInputPaths(job,new Path("D:\\a\\inputorder"));
        FileOutputFormat.setOutputPath(job, new Path("D:\\a\\outputorder"));
        boolean b = job.waitForCompletion(true);
        System.exit( b== true?0:-1);
    }
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值