Shuffle Error: Exceeded MAX_FAILED_UNIQUE_FETCHES解决方案

转载自:http://hi.baidu.com/xiaomi/item/6d2cbdf35064040c84d27844



1.map 完成,但reduce阶段出错。

12/01/06 17:09:15 INFO input.FileInputFormat: Total input paths to process : 2
12/01/06 17:09:16 INFO mapred.JobClient: Running job: job_201201061706_0001
12/01/06 17:09:17 INFO mapred.JobClient:  map 0% reduce 0%
12/01/06 17:09:31 INFO mapred.JobClient:  map 50% reduce 0%
12/01/06 17:09:34 INFO mapred.JobClient:  map 100% reduce 0%
12/01/06 17:09:40 INFO mapred.JobClient:  map 100% reduce 16%
12/01/06 17:16:59 INFO mapred.JobClient:  map 100% reduce 0%
12/01/06 17:17:04 INFO mapred.JobClient: Task Id : attempt_201201061706_0001_r_000000_0, Status : FAILED
Shuffle Error: Exceeded MAX_FAILED_UNIQUE_FETCHES; bailing-out.
12/01/06 17:17:05 WARN mapred.JobClient: Error reading task outputjx2
12/01/06 17:17:05 WARN mapred.JobClient: Error reading task outputjx2
12/01/06 17:17:17 INFO mapred.JobClient:  map 100% reduce 16%

解决是:在namenode以及datanode的 /etc/hosts 添加 ip与别名。如:

192.168.5.191 jx1

192.168.5.192 jx2



  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值