MapReduce程序-tips

1,Configuration配置文件只有在main或者是run方法中设置才有效;

     在map或reduce中只能通过context.getConf()方法获取该Job的配置文件,从而读取常量值。

注:千万不能在map或reduce中修改configuration,虽然不报错,但这样是改不了值的

补充:类的静态常量与Configuration设置常量的功能是一样的,但前者只能保留第一次赋值,即使在mainrun中修改也不行

2,如果该MR程序,不需要Reducer过程,则只需要在main或run中job.setReducerClass(Reducer.class)即可。

注:Reducer是hadoop包中自带的类,如果自定义reducer需要继承该类。

 3,在Reducer类中的reduce方法中,Value迭代器只能迭代一次,之后便无效(这一点很坑人,需要注意)

      可以将Value存于ArrayList中,即可实现多次迭代。

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值