jobtracker.info could only be replicated to 0 nodes, instead of 1

2 篇文章 0 订阅
1 篇文章 0 订阅

问题现象:已经用了一段时间的hadoop环境,由于今天修改了部分信息导致出现启动后jps显示正常,但是查看日志发现jobtracker异常。

异常如下:

...

WARN org.apache.hadoop.mapred.JobTracker: Writing to file hdfs://master.hadoop:9000/home/hadoop/storage/mapred/system/jobtracker.info failed!

.. 

WARN org.apache.hadoop.hdfs.DFSClient: DataStreamer Exception: org.apache.hadoop.ipc.RemoteException: java.io.IOException: File /home/hduser/hadoop/tmpnew/mapred/system/jobtracker.info could only be replicated to 0 nodes, instead of 1

未成功的解决办法:

1、删除指定的目录(你的hadoop配置中指定的本地目录或临时目录),重新format,重启后还是这个错误。

2、参考网上的很多方法,包括修改iptables,关闭hadoop安全模式等,均无效果。

3、把修改的部分拼接记忆恢复,也没搞定, 可能是有部分忘记了。。。


在我想打算放弃这个环境重新搭建时,我似乎发现我犯了一个错误,在我删除目录、重新format时,我都是在namenode上删除并且只在namenode上删除,而且以前也是这么做的并且是成功的,那么是否能保证datanode目录(hadoop配置中指定的data目录会在datanode上创建)上也被删除了呢?当我ssh到datanode上时,我发现它们还存在着,于是删除集群所有机器上的指定目录,重新format,重启后竟然可以了,测试wordcount成功了。

备注:配置的目录在mapred-site.xml、hdfs-site.xml

总结:修改配置文件或者强制停止hadoop等有可能导致异常现象,这时以往的经验可能会欺骗我们,就比如重新format时大家都知道要删除旧的目录,但是如果datanode上目录因为异常而存在可能会让你掉坑里。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值