hadoop mapreduce 自定义分组实现

hadoop mapreduce 自定义分组实现

任务要求:对流量日志进行流量统计,将不同省份的用户统计结果输出到不同的文件;

需要自定义改造两个机制:

1、改造分区的逻辑,自定义一个Partitioner类
2、自定义reducer task的并发任务数;

具体代码java:
mapreduce 以及 主类代码:

package com.cjp.areaPartitioner;

import java.io.IOException;

import org.apache.commons.lang.StringUtils;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

import com.cjp.sumflow.FlowBean;

public class FlowSum {

	public static class Maps extends Mapper<LongWritable, Text, Text, FlowBean> {
		@Override
		protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {

			String line = value.toString();
			String[] split = StringUtils.split(line, "\t");

			String phoneNum = split[1];
			long up_flow_sum = Integer.parseInt(split[5]);
			long d_flow_sum = Integer.parseInt(split[6]);
			
			context.write(new Text(phoneNum), new FlowBean(phoneNum, up_flow_sum, d_flow_sum));
			

		}
	}

	public static class Reduces extends Reducer<Text, FlowBean, Text, FlowBean> {

		protected void reduce(Text arg0, Iterable<FlowBean> value, Context co
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值