启动hadoop 2.6遇到的datanode启动不了

2017-10-12 17:54:08,123 INFO org.apache.hadoop.hdfs.server.common.Storage: Lock on /usr/hadoop/temp/dfs/data/in_use.lock acquired by nodename 6268@soc71
2017-10-12 17:54:08,124 FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Initialization failed for Block pool <registering> (Datanode Uuid unassigned) service to soc71/172.16.10.71:9000. Exiting. 
java.io.IOException: Incompatible clusterIDs in /usr/hadoop/temp/dfs/data: namenode clusterID = CID-2b0764df-b850-4f80-862c-1cfdcf6b9199; datanode clusterID = CID-37fc5257-9eba-49d1-83ea-845f5b0d4b24
at org.apache.hadoop.hdfs.server.datanode.DataStorage.doTransition(DataStorage.java:646)
at org.apache.hadoop.hdfs.server.datanode.DataStorage.addStorageLocations(DataStorage.java:320)
at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:403)
at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:422)
at org.apache.hadoop.hdfs.server.datanode.DataNode.initStorage(DataNode.java:1311)
at org.apache.hadoop.hdfs.server.datanode.DataNode.initBlockPool(DataNode.java:1276)
at org.apache.hadoop.hdfs.server.datanode.BPOfferService.verifyAndSetNamespaceInfo(BPOfferService.java:314)
at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.connectToNNAndHandshake(BPServiceActor.java:220)
at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.run(BPServiceActor.java:828)
at java.lang.Thread.run(Thread.java:745)
2017-10-12 17:54:08,125 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Ending block pool service for: Block pool <registering> (Datanode Uuid unassigned) service to soc71/172.16.10.71:9000
2017-10-12 17:54:08,226 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Removed Block pool <registering> (Datanode Uuid unassigned)
2017-10-12 17:54:10,226 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Exiting Datanode
2017-10-12 17:54:10,227 INFO org.apache.hadoop.util.ExitUtil: Exiting with status 0
2017-10-12 17:54:10,228 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: SHUTDOWN_MSG: 
/************************************************************
SHUTDOWN_MSG: Shutting down DataNode at soc71/172.16.10.71

************************************************************/


从日志上看,加粗的部分说明了问题

datanode的clusterID 和 namenode的clusterID 不匹配。


解决办法:

根据日志中的路径,cd /home/hadoop/tmp/dfs

能看到 data和name两个文件夹,

将name/current下的VERSION中的clusterID复制到data/current下的VERSION中,覆盖掉原来的clusterID


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 启动Hadoop时如果没有DataNode,可能会导致以下问题: 1. NameNode无法找到可用的DataNode,导致无法存储和处理数据。 2. 如果只有一个DataNode,那么它将成为单点故障,如果它出现问题,整个Hadoop集群将无法正常工作。 3. 如果没有足够的DataNode,那么Hadoop集群的性能将受到影响,因为数据无法并行处理。 因此,启动Hadoop时应该确保至少有一个DataNode可用。如果没有DataNode,可以通过以下步骤解决: 1. 检查Hadoop配置文件中的DataNode设置,确保它们正确配置。 2. 检查DataNode所在的机器是否已经启动,并且Hadoop服务已经在运行。 3. 如果DataNode仍然无法启动,可以尝试重新安装Hadoop并重新配置。 总之,启动Hadoop时必须确保DataNode可用,否则将会影响整个Hadoop集群的正常运行。 ### 回答2: 当启动Hadoop时,如果没有DataNode出现,通常会出现以下两种情况: 1. Hadoop配置文件错误 首先,应该检查Hadoop配置文件是否正确。检查hdfs-site.xml和core-site.xml文件的设置,确保DataNode的相关设置正确。确认以下设置: 在hdfs-site.xml文件中,确保dfs.replication属性设置为一个大于或等于1的值。 在core-site.xml文件中,确保fs.default.name属性设置为hdfs的URI(如hdfs://localhost:9000)。 如果配置文件设置正确,但是DataNode仍然没有出现,则需要检查DataNode进程运行的日志文件。日志文件通常可以在${HADOOP_HOME}/logs/hadoop-{user}-datanode-{hostname}.log路径下找到。检查该日志文件,确认DataNode进程未出现的原因。 2. 硬件或网络问题 另外一种可能是因为硬件或网络问题导致DataNode未能启动。检查以下几个问题: 确保Hadoop集群中所有节点的系统时间同步。如果系统时间存在偏差,可能会导致DataNode无法正常启动。 检查DataNode节点是否能够连接到网络。如果DataNode无法连接到网络,则无法向NameNode注册其服务,并且无法正常工作。 确保DataNode的磁盘空间足够。如果DataNode的磁盘空间不足,则不能为HDFS存储提供足够的空间。 总之,当启动Hadoop时没有DataNode出现,应该首先检查Hadoop配置文件是否设置正确。如果设置正确,则需要检查DataNode进程的日志文件及硬件或网络问题,确保DataNode正常工作。 ### 回答3: Hadoop是一个分布式的计算平台,由于其分布式的特性,启动hadoop需要一些基本的组件,其中包括namenodedatanode,以及由它们组成的集群。如果启动hadoop时,发现缺少了datanode,那么可能会出现以下问题: 1. 配置文件错误:在启动hadoop前,需要通过配置文件来指定集群中的组件。如果配置文件中缺少了datanode的相关信息,那么就会导致启动失败。 2. 网络故障:datanode是存储数据的节点,如果网络连接出现故障,则datanode无法与其他节点建立连接,也就无法提供存储服务。 3. 资源不足:如果集群中的datanode数量过少,那么可能会导致无法存储所有的数据,而且在数据读写时也会出现瓶颈。 针对以上问题,我们可以采取以下措施来解决: 1. 检查配置文件:通过检查配置文件,确认其中是否存在datanode的相关信息。如果缺少,则需要及时添加。 2. 检查网络连接:通过检查网络连接,确认是否存在连接故障。如果存在,则需要及时解决,以保证datanode可以正常工作。 3. 增加datanode数量:通过增加集群中datanode的数量,可以提高存储和读写能力,确保数据的可靠性和高效性。 综上所述,如果启动hadoop时缺少了datanode,可能会出现多种问题。为了避免这些问题的出现,我们需要在启动前仔细检查配置文件和网络连接,并通过增加datanode数量来提高集群的性能和稳定性。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值