【Hadoop】46-计数器应用实例

在实际生产代码中,常常需要将数据处理过程中遇到的不合规数据行进行全局计数,类似这种需求可以借助mapreduce框架中提供的全局计数器来实现。

示例代码如下:

public class MultiOutputs {
         //通过枚举形式定义自定义计数器
         enum MyCounter{MALFORORMED,NORMAL}
         static class CommaMapper extends Mapper<LongWritable, Text, Text, LongWritable> {
                  @Override
                  protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {
                          String[] words = value.toString().split(",");
                          for (String word : words) {
                                   context.write(new Text(word), new LongWritable(1));
                          }
                          //对枚举定义的自定义计数器加1
                          context.getCounter(MyCounter.MALFORORMED).increment(1);
                          //通过动态设置自定义计数器加1
                          context.getCounter("counterGroupa", "countera").increment(1);
                  }
         }

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值