datanode节点失联故障处理

最新推荐文章于 2022-11-25 17:10:57 发布
最新推荐文章于 2022-11-25 17:10:57 发布
阅读量4.9k 收藏 8
点赞数
分类专栏： 运维 文章标签： hadoop datanode SIGNAL 15
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lepton126/article/details/71506646
版权
某Hadoop集群的datanode出现无故失联，日志显示收到SIGTERM信号。通过对配置文件hdfs-site.xml的调整，增加了dfs.namenode.secondary.http-address、dfs.blockreport.intervalMsec和dfs.datanode.directoryscan.interval的配置，并删除问题文件块，重启datanode进程，成功解决了故障。
摘要由CSDN通过智能技术生成
故障现象是hadoop集群中某个datanode无故失联，调阅log记录中发现                                                                      
 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: Got finalize command for block pool BP-***                                  
 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: RECEIVED SIGNAL 15: SIGTERM                                                
 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: SHUTDOWN_MSG:                                                               
 signal 15含意是使用不带参数的kill命令时终止进程,初步判断，由于文件数据块的原因造成datanode失联                          
 对配置文件hdfs-site.xml增加如下配置                                                                                               
 <property>                                                                                                                        
     <name>dfs.namenode.secondary.http-address</name>              
最低0.47元/天 解锁文章
lepton126
关注
专栏目录
【Flink】RECEIVED SIGNAL 15: SIG SIGTERM. Shutting down as requested
九师兄
02-22 3127
一个Flink任务运行的时候报错，任务总是自动莫名其妙的中断这里主要看到命令行中有这样一句话。
【Hadoop|Datanode报错】ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: node01:50010:DataXceiver
wei的博客
07-07 1011
ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: node01:50010:DataXceiver error processing READ_BLOCK operation src: /172.18.44.148:37180 dst: /172.18.44.145:50010 java.io.IOException: Not ready to serve the block pool, BP-515668640-172.18.44.143-16
hadoop脚本启动时，错误： ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: Exception in secureMain
蚂蚁拾贝的博客
06-15 1万+
1.问题：        在使用Hadoop自带脚本时启动hdfs/yarn时出现的问题：mv: 无法获取"/usr/local/apps/hadoop-2.8.1/logs/hadoop-root-datanode-vm001.out.3" 的文件状态(stat): 没有那个文件或目录    在/usr/local/apps/hadoop-2.8.1/logs/hadoop-root-datan...
Hadoop 数据节点DataNode异常
玄火的专栏
09-27 1万+
使用start-all.sh脚本或者先后执行start-dfs.sh、start-yarn.sh脚本启动Hadoop后，通过jps命令检测DataNode节点进程发现有DataNode进程，数秒后DataNode进程莫名其妙“消失”了，只有Jps、NodeManager两个进程。简而言之就是DataNode进程异常，由于某种原因导致无法启动或者启动后数据节点DataNode进程自动关闭。
【FLINK】RECEIVED SIGNAL 15: SIGTERM. Shutting down as requested.
Zsigner的博客
12-02 8701
参考以下两篇博客，定位解决了问题,【备注学习】 本人使用的版本是flink 1.10 1、Flink任务物理内存溢出问题定位 问题现象 一个使用10秒滚动窗口的任务在平稳运行一段时间之后出现了频繁的重启。在TaskManager日志中能看到以下文本： 2019-03-17 16:05:28,854 INFO org.apache.flink.yarn.YarnTaskExecutorRunner - RECEIVED SIGNAL 15: SIGTERM..
Hadoop datanode启动异常 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode
Kason_iWiki
11-25 2566
发现这两个id不一致，经查阅相关资料，id不一致会导致Initialization failed for Block pool。线上收到hadoop集群datanode掉线告警。然后再次尝试启动datanode进程。发现未存在datanode进程。
hadoop没有datanode节点
03-16
2. Datanode节点出现故障：如果Datanode节点出现故障，可能会导致它无法正常工作，从而导致Hadoop没有Datanode节点。 3. 网络问题：如果网络出现问题，可能会导致Datanode节点无法与其他节点通信，从而导致Hadoop...
在一个Hadoop集群中，DataNode节点出现故障（宕机或后台进程被删掉），会导致Hadoop集群HDFS无法使用 A 对 B 错
06-12
如果Hadoop集群中的DataNode节点出现故障（宕机或后台进程被删掉），可能会导致HDFS无法使用，具体取决于故障的严重程度和故障节点的数量。一般来说，如果只有一个DataNode节点出现故障，那么HDFS集群仍然可以正常...
第6章 DataNode
留不住斜阳的博客
06-02 535
HDFS DataNode工作机制
hdfs datanode节点之间 数据不均衡
最新发布
09-03
HDFS的DataNode节点之间的数据不均衡指的是在HDFS集群中，不同的DataNode节点存储的数据量不一致。这可能导致某些节点负载过重，而其他节点负载较轻。 导致数据不均衡的主要原因有以下几点： 1. 初始复制：当数据...
ERROR org.apache.hadoop.yarn.server.resourcemanager.ResourceManager: RECEIVED SIGNAL 15: SIGTERM
热门推荐
蔡先生的专栏
03-17 3万+
重新搭建Hadoop集群，一切配置就绪后，启动集群后，在Master和所有的Slave节点上通过JPS命令都可以看到集群应该启动的进程都已经启动了。通过50070端口也可以查看到所有DataNode处于Live状态，而且可以正常往HDFS上传下载文件。 但是在8088端口查看不到任何Nodes的信息，提交任务到集群，任务一直卡在Accepted状态。 通过查看日志发现提示如下错误： 2016
ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: Incompatible namespaceIDs ...datanode namespa...
weixin_30859423的博客
07-04 705
　　用三台centos操作系统的机器搭建了一个hadoop的分布式集群。启动服务后失败，查看datanode的日志，提示错误：ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: java.io.IOException: Incompatible namespaceIDs in /var/lib/hadoop-0.20/cache/...
DataNode连接错误Retrying connect to server
zds05的专栏
10-24 814
http://blog.csdn.net/liuxinghao/article/details/40121945   在Hadoop分布式模式部署完成后，通过start-dfs.sh启动NameNode、DataNode、SecondaryNameNode，在master节点通过jps命令查看，看到NameNode、SecondaryNameNode已启动，在slave节点通过j
hadoop遇到的一些问题
博客
09-30 1055
集群启动，总是有一个namenode启动不了（而且jobhistory也启动不了） 查看日志，出现： java.io.EOFException: End of File Exception between local host is: “hadoop002/192.168.137.201”; destination host is: “hadoop002”:8020; 以及另一个： ERROR o...
hadoop集群启动时DataNode节点启动失败
weixin_34192732的博客
03-07 297
错误日志如下： ************************************************************/ 2018-03-07 18:57:35,121 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: registered UNIX signal handlers for [TERM, HUP, ...
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值