重新format namenode后，datanode无法正常启动

最新推荐文章于 2022-10-18 15:47:11 发布
最新推荐文章于 2022-10-18 15:47:11 发布
阅读量176 收藏
点赞数 1
文章标签： hadoop big data spark
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39570355/article/details/120046624
版权
本文记录了在格式化NameNode后，Datanode启动时遇到初始化失败的问题，主要表现为clusterID不一致。通过检查配置、清理并更新clusterID，最终解决了datanode无法启动的问题。
摘要由CSDN通过智能技术生成

重新format namenode后，datanode无法正常启动

测试环境，由于测试需求，重新format namenode后，导致datanode无法正常启动。

1. 查看datanode日志，可以发现错误“Initialization failed for Block pool <registering> (Datanode Uuid unassigned)”
		2021-09-01 15:45:45,571 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Block pool <registering> (Datanode Uuid unassigned) service to dev/10.130.130.136:8020 starting to offer service
2021-09-01 15:45:45,578 INFO org.apache.hadoop.ipc.Server: IPC Server Responder: starting
2021-09-01 15:45:45,578 INFO org.apache.hadoop.ipc.Server: IPC Server listener on 50020: starting
2021-09-01 15:45:45,884 INFO org.apache.hadoop.hdfs.server.common.Storage: Using 1 threads to upgrade data directories (dfs.datanode.parallel.volumes.load.threads.num=1, dataDirs=1)
2021-09-01 15:45:45,904 INFO org.apache.hadoop.hdfs.server.common.Storage: Lock on /export/servers/hadoop-2.7.5/hadoopDatas/datanodeDatas/in_use.lock acquired by nodename 29461@dev.happyelements.net
2021-09-01 15:45:45,906 WARN org.apache.hadoop.hdfs.server.common.Storage: Failed to add storage directory [DISK]file:/export/servers/hadoop-2.7.5/hadoopDatas/datanodeDatas/
java.io.IOException: Incompatible clusterIDs in /export/servers/hadoop-2.7.5/hadoopDatas/datanodeDatas: namenode clusterID = CID-d972873f-c707-42a1-97f1-107299c35074; datanode clusterID = CID-65d5cdee-a932-42e9-84c3-e315cc2b927a
	at org.apache.hadoop.hdfs.server.datanode.DataStorage.doTransition(DataStorage.java:775)
	at org.apache.hadoop.hdfs.server.datanode.DataStorage.loadStorageDirectory(DataStorage.java:300)
	at org.apache.hadoop.hdfs.server.datanode.DataStorage.loadDataStorage(DataStorage.java:416)
	at org.apache.hadoop.hdfs.server.datanode.DataStorage.addStorageLocations(DataStorage.java:395)
	at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:573)
	at org.apache.hadoop.hdfs.server.datanode.DataNode.initStorage(DataNode.java:1393)
	at org.apache.hadoop.hdfs.server.datanode.DataNode.initBlockPool(DataNode.java:1358)
	at org.apache.hadoop.hdfs.server.datanode.BPOfferService.verifyAndSetNamespaceInfo(BPOfferService.java:313)
	at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.connectToNNAndHandshake(BPServiceActor.java:216)
	at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.run(BPServiceActor.java:637)
	at java.lang.Thread.run(Thread.java:748)
2021-09-01 15:45:45,910 FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Initialization failed for Block pool <registering> (Datanode Uuid unassigned) service to dev/10.130.130.136:8020. Exiting. 
java.io.IOException: All specified directories are failed to load.
	at org.apache.hadoop.hdfs.server.datanode.DataStorage.recoverTransitionRead(DataStorage.java:574)
	at org.apache.hadoop.hdfs.server.datanode.DataNode.initStorage(DataNode.java:1393)
	at org.apache.hadoop.hdfs.server.datanode.DataNode.initBlockPool(DataNode.java:1358)
	at org.apache.hadoop.hdfs.server.datanode.BPOfferService.verifyAndSetNamespaceInfo(BPOfferService.java:313)
	at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.connectToNNAndHandshake(BPServiceActor.java:216)
	at org.apache.hadoop.hdfs.server.datanode.BPServiceActor.run(BPServiceActor.java:637)
	at java.lang.Thread.run(Thread.java:748)
2021-09-01 15:45:45,910 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Ending block pool service for: Block pool <registering> (Datanode Uuid unassigned) service to dev/10.130.130.136:8020
2021-09-01 15:45:46,012 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Removed Block pool <registering> (Datanode Uuid unassigned)
2021-09-01 15:45:48,012 WARN org.apache.hadoop.hdfs.server.datanode.DataNode: Exiting Datanode
2021-09-01 15:45:48,014 INFO org.apache.hadoop.util.ExitUtil: Exiting with status 0
2021-09-01 15:45:48,017 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: SHUTDOWN_MSG: 

2. 根据日志描述，原因是datanode的clusterID 和 namenode的clusterID 不匹配。

3. 打开hdfs-site.xml中关于datanode和namenode对应的目录，分别打开其中的current/VERSION文件，进行对比。发现clusterID不一致

		[hadoop@dev current]$cat /export/servers/hadoop-2.7.5/hadoopDatas/datanodeDatas/current/VERSION 
				#Wed Sep 01 15:52:33 CST 2021
					storageID=DS-0e391432-42fe-4c23-b7ab-9d3978be67ab
					clusterID=CID-d972873f-c707-42a1-97f1-107299c35074
					cTime=0
					datanodeUuid=bf2a432f-1572-47ef-96c9-85acc0385921
					storageType=DATA_NODE
					layoutVersion=-56

 4.删除/export/servers/hadoop-2.7.5/hadoopDatas/datanodeDatas/current路径下VERSION，再次启动datanode，VERSION内容已经同步。
 
 5. 重新启动datanode，发现服务可以正常启动，问题解决了。
	[hadoop@dev hadoop-2.7.5]$sbin/hadoop-daemon.sh start datanode
大霖技术进阶
关注
mysql/mha+的lnmp+负载均衡高可用
qq_40584358的博客
04-06 1164
2.1环境准备： 两台虚拟机 master slave master：3306 slave：3307 3308 2.2 删除历史环境： pkill mysqld rm -rf /data/330* mv /etc/my.cnf /etc/my.cnf.bak 2.3master部署 [ ! -d /software/ ] && mkdir /software rpm -qa | grep mariadb yum remove mariadb-libs -y useradd mysql
Hadoop | 解决启动Hadoop，jps后无namenode,datanode等进程
martinniee
01-11 1万+
问题描述 最近因为想修改一下主机名，用户名什么的 但是一开始没有注意到主机名和用户名对于Hadoop服务的影响 导致修改后，导致Hadoop启动，失败，即jps后，没有namenode,datanode，显然这两个文件对于hadoop是至关重要的，要不然无法获取数据 一开始没有考虑查看日志排错(因为对于异常处理方面不敏感:???? 因为机缘巧合，碰巧试了试，然后就行了 之所以出错，归根结底还是对于原理不熟 解决方案 首先要知道Linux下的主机名和用户名是什么，如何查看 命令行终端下 格式 : 用户名@主机
start-dfs.sh无法启动namenode(jps查看不到namenode)
u012504875的博客
07-06 1万+
1.当启动hadoop后，一般会通过jps命令查看hadoop的启动情况，本人hadoop菜鸟一枚，在启动后一直看不到namenode的启动。   2.一般发生这种情况，我觉得有必要在hadoop文件夹下的logs文件夹里查看日志： 3.一般会查看.log文件，查看后如果发现tmp文件夹里找不到namenode，说明启动hadoop时没有产生name文件。 4.
DSC+异步备机测试
weixin_45260302的博客
10-18 900
DSC+异步备机测试
大数据实战课 - 生产预警平台01
大门的博客
01-30 317
https://blog.csdn.net/zhikanjiani/article/details/102702365 第一章：项目背景 背景： 外资车载导航、硬件、传感器、GPS等等 1、服务挂了，不能及时通知 2、服务不能达到秒级通知，前两年基本都是分钟级别，5min左右 3、对于一些即将出现的问题可以提前预知 4、有效的扩展到实时计算、日志 5、如MYSQL 、SQL的error、慢sql ...
namenode和datanode工作机制_namenode和datanode的工作机制
weixin_32950005的博客
12-29 958
namenode工作机制1、namenode职责(1)负责客户端请求的响应(2)元数据的管理(查询，修改)2、元数据管理namenode对数据的管理采用了三种存储形式：内存元数据(NameSystem)磁盘元数据镜像文件数据操作日志文件(可通过日志运算出元数据)2.1元数据存储机制内存中有一份完整的元数据(内存meta data)磁盘有一个“准完整”的元数据镜像(fsimage)文件(在namen...
hadoop多次格式化namenode造成datanode无法启动问题解决
huaziran的博客
10-19 1625
问题出现 查看日志 原因分析 按日志内容来看，namenode和datanode的clusterID不一致。突然想起来之前格式化了两次namenode，应该是由于namenode多次格式化造成了namenode和datanode的clusterID不一致！每次格式化时，namenode会更新clusterID，但是datanode只会在首次格式化时确定，因此就造成不一致现象。 在 … /hadoop-2.7.3/tmp/dfs文件下有data 和name两个文件 继续cd进入 ls查看 cd data/
hadoop格式化namenode后导致datanode无法启动
阿尼古
04-01 1150
hadoop格式化namenode后导致datanode无法启动 首先贴报错哈，错误不一样，就不用往下看了。。。 报错截图 错误分析 Failed to add storage directory [DISK]file:/Users/zhangchenguang/software/hadoop-2.7.3/tmp/dfs/data/ java.io.IOException: Inco...
namenode进程无法启动，datanode启动正常；格式化之后，namenode正常，datanode无法启动，怎么解决？
Bolong_的博客
04-18 820
集群环境，全分布式，一个master,两个slave。启动hadoop后，两个slave结点进程正常，master缺少namenode。网上查了一翻，说是namenode元信息受损，需要修复，于是想起刚才急着去吃饭，hadoop没有关闭，电脑随手一合。。心塞。。尝试一翻无果后，只能格式化：cd /opt/linuxsir/hadop/bin./hdfs namenode -format接着清理日志...
启动hadoop 2.7.3 datanode启动后又宕机, 遇到的datanode启动不了
形而上者谓之道 形而下者谓之器
03-03 1382
启动hadoop 2.7.3 datanode启动后又宕机, 遇到的datanode启动不了 启动hadoop2.7.3datanode启动后又宕机,遇到的datanode启动不了 官方安装手册: https://docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.6.0/bk_support-matrices/content/ch_ma...
无法正常启动DataNode
大杂烩
01-17 597
2017-01-16 22:43:19,028 INFO org.apache.hadoop.ipc.Client: Retrying connect to server: chan.takchi/192.168.42.129:9000. Already tried 9 time(s); retry policy is RetryUpToMaximumCountWithFixedSleep(max
hadoop3.1.4 完全分布式搭建HA（namenode resourcemanager高可用）保姆级教程-详细步骤-快速搭建-详解配置-历史服务器
weixin_52918377的博客
05-08 1371
一. 集群规划 ip 主机名 安装进程 192.168.204.14 hdp14 namenode,ZKFC,resourcemanager 192.168.204.15 hdp15 namenode,ZKFC,resourcemanager 192.168.204.16 hdp16 natanode,nodemanager,zookeeper,Journalnode 192.168.204.17 hdp17 natanode,nodemanager,zookeeper,Jour
格式化namenode后datanode无法启动
集腋成裘，聚沙成塔
12-28 2368
有的时候namenode会出现无法启动的问题，我们在无法解决这个问题的时候往往会干一件事： 但我们会发现： 然后我们就会干一件更加丧心病狂的事： 不好意思，发错了，是格式化namenode。格式化后 但datanode不见了。这是为啥呢？ 我们每次在格式化namenode时都会产生一个新的集群ID,如果格式化成功，在命令行输出信息里就有新产出的集群ID，大家找一下，我这不方便再格式化一遍...
hadoop配置文件详解系列（二）-hdfs-site.xml篇
bingque6535的博客
01-07 5570
属性名称 属性值 描述 hadoop.hdfs.configuration.version 1 配置文件的版本 dfs.namenode.rpc-address 　 处理所有客户端请求的RPC地址，若在HA场景中， 可能有多个namenode，就把名称ID添加到进来。 该属性的格式为...
Hadoop中DataNode没有启动解决办法
weixin_34367845的博客
11-13 298
一般由于多次格式化NameNode导致。在配置文件中保存的是第一次格式化时保存的namenode的ID，因此就会造成datanode与namenode之间的id不一致。 查看从节点机器hadoop中datanode的log文件 , 拉到最后 , 报错如下 然后找到datanode日志文件打开 2018-11-23 02:16:33,807 INFO org.apache.had...
Hadoop： 主节点9000端口拒绝访问Call From hadoop3/192.168.91.132 to hadoop1:9000 failed on connection exception
热门推荐
机智的小蔡的博客
05-24 7万+
注：master： hadoop1 ；     slaves ： hadoop2 ,hadoop3Call From hadoop3/192.168.91.132 to hadoop1:9000 failed on connection exception。报错截图上图为hadoop3使用hadoop fs -ls命令时报错；也有在hadoop1使用hadoop fs -ls时报错的情况。报...
Hadoop学习问题2：namenode重复格式化出现datanode启动失败问题
qq_43967413的博客
12-04 1127
问题描述 hdfs格式化命令第一次启动的时候进行格式化即可，后续如果重复格式化会出现datanode启动失败的问题 原因分析 在hadfs-site.xml配置中指定了hdfs运行时产生的存储目录 <property> <name>hadoop.data.dir</name> <value>/opt/module/hadoop-3.1.3/data<value> </property> 对于配置了namenod
Hadoop分布式DataNode节点启动失败
Aimmon
06-16 645
2018-06-15 23:01:55,872 INFO org.apache.hadoop.hdfs.server.common.Storage: Using 1 threads to upgrade data directories (dfs.datanode.parallel.volumes.load.threads.num=1, dataDirs=1)2018-06-15 23:01:55...
怎么创建 Hadoop 的 namenode 和 datanode 目录
最新发布
05-29
执行完该命令后，Hadoop 就会启动，同时 namenode 和 datanode 目录也会被加载。 注意：在执行以上命令时，需要确保 Hadoop 的配置文件已正确设置，并且当前用户对 namenode 和 datanode 目录有读写权限。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值