解决hadoop集群中datanode启动后自动关闭的问题

相信大部分的Hadoop的初学者都会都会遇到这样的问题: 在配置好Hadoop集群后,当执行sbin/start-dfs.sh时会发现datanode进程启动后立即关闭。我当时遇到这样的问题时一脸懵逼,以为是自己配置Hadoop的参数出现错误。结果反复的重新配置,重新格式化,然而并没有什么用处。废话不多说了,现在开始介绍问题的产生以及解决方案吧。

问题:Namenode上namespaceID与datanode上namespaceID不一致。 
  问题产生原因:每次namenode format会重新创建一个namenodeId,而tmp/dfs/data下包含了上次format下的id,namenode format清空了namenode下的数据,但是没有清空datanode下的数据,所以造成namenode节点上的namespaceID与datanode节点上的namespaceID不一致。启动失败。 
解决方法: 
  (1)停掉集群服务 
  (2)在出问题的datanode节点上删除data目录,data目录即是在hdfs-site.xml文件中配置的dfs.data.dir目录,本机器上那个是/hadoop/hadoop-2.7.1/hdfs/dfs/data/ (注:在所有的datanode和namenode节点上均执行了该步骤。以防删掉后不成功,可以先把data目录复制一份)。 
  (3)格式化namenode. 
  (4)重新启动集群。 
  问题解决。 
谨记:这种方法带来的一个副作用就是会造成hdfs上的所有数据丢失。
 

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值