Partitioner编程

根据手机号,区分运营商

public static class ProviderPartitioner extends Partitioner<Text,DataBean>{
    private static Map<String,Integer> providerMap=new HashMap<String,Integer>();
    static{
            //映射关系
            providerMap.put("135",1);
            providerMap.put("136",1);
            providerMap.put("137",1);
            providerMap.put("138",1);
            providerMap.put("139",1);
            providerMap.put("150",2);
            providerMap.put("159",2);
            providerMap.put("182",3);
            providerMap.put("183",3);
    }
    public int getPartition(Text key,DataBean value,int numPartitions){
        String account=keu.toString();
        String sub_acc=account.subString(0,3);
        Integer code = providerMap.get(sub_acc);
        if(code == null){
            code = 0;
        }
        return code;
    }
}

//组装
jod.setPartitionerClass(ProviderPartitioner.class);

一个partition对应一个reduce

一个机器运行一个NodeManager,还有一个DataNode
NodeManager归ResourceManager(YARN)管理

YarnChild

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值