记录一次hadoop namenode fsimage不更新问题

本文记录了一次Hadoop集群扩容后遇到的问题,包括SecondaryNameNode在HA集群中不再使用,StandbyNamenode无法进行检查点操作,以及由于JournalNode配置错误导致的Namenode挂机。通过检查JournalNode日志,发现目录结构不完整,修复后成功恢复服务。强调了监控和理解Hadoop组件在集群维护中的重要性。
摘要由CSDN通过智能技术生成

前言

之前Hadoop namenode机器扩容过一次,扩容之后感觉老是有问题。今天上去看了下namenode的fsimage镜像好久没从内存写到硬盘上了,想找找什么问题。对hadoop也不太熟悉,也是慢慢摸索阶段

启动SecondaryNameNode

启动命令

hadoop-daemon.sh start secondarynamenode

然后执行jps发现没有启动起来,
去查看日志,发现了一个报错

Cannot use SecondaryNameNode in an HA cluster. The Standby Namenode will perform checkpointing.

后面查了查资料,才知道原来在2.x之后的版本已经不用SecondaryNameNode来把edits合并到fsimage了

检查Standby Namenode

按道理来说namenode会更新fsimage啊,于是我就登录另一台namenode,我一看,这台机器的namenode挂了。。。(论监控的重要性,下一个hadoop监控项就是它了)。

查看了一下错误日志,发现是扩容机器的journal服务不正常,导致这台机器的namenode挂了。

检查journalnode

登录扩容后的机器查看journal日志,发现是目录当初只创建到journal指定的目录,目录下面还有两级目录需要创建,创建了之后再去启动namenode,过了一个小时就好了

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值