居然两个NameNode都是备用,见了鬼了

@解决NameNode切换过程中出现两个备用
先来看图:
在这里插入图片描述
版本:CDH:5.7.1
起因:1.一周前,ZK出现无缘无故的抖动,导致HBase一个计算节点挂掉了
在这里插入图片描述
紧接着,这周出现该节点Redis频繁告警:

查看服务器CPU,内存使用均正常。怀疑是磁盘IO。
果然磁盘IO 100%
在这里插入图片描述
想装个iotop看下具体哪个进程引起的,结果yum的时候直接没响应
那么先把该服务器上重要的CDH节点先迁移走:
NameNode迁移完成之后出现了2个备用,没有主节点。
问题肯定是由于该服务器磁盘IO高,导致迁移的时候响应比较慢。
有些操作显示完成了,实际没有完成,导致HA的锁机制失效
于是查看ZK中的HA节点:
当时没有截图,
get /hadoop-ha/nameservice1/ActiveBreadCrumb
显示的hostname还是我的故障机的名字。
直接删除:
在这里插入图片描述
然后用CDH节目触发HA:
在这里插入图片描述
问题解决!
在这里插入图片描述
之后停止了Yarn,HBase等,减轻了服务器压力。
做了一些其他的数据转移工作。最后更换了磁盘。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
namenode切换是指在Hadoop集群中,当主namenode节点出现故障或需要进行维护时,需要将备用namenode节点切换为主节点,以保证集群的高可用性和稳定性。 在Hadoop 2.x版本中,namenode切换可以通过以下步骤实现: 1. 配置hdfs-site.xml文件,设置dfs.nameservices属性和dfs.ha.namenodes.nameserviceId属性,其中nameserviceId为自定义的名称。 2. 配置core-site.xml文件,设置fs.defaultFS属性为hdfs://nameserviceId。 3. 在hdfs-site.xml文件中配置dfs.namenode.rpc-address.nameserviceId.nn1和dfs.namenode.rpc-address.nameserviceId.nn2属性,分别指定两个namenode节点的RPC地址。 4. 启动Zookeeper服务,并在hdfs-site.xml文件中配置dfs.ha.zookeeper.quorum属性,指定Zookeeper的地址和端口号。 5. 在每个namenode节点上启动JournalNode服务,并在hdfs-site.xml文件中配置dfs.journalnode.edits.dir属性,指定JournalNode的存储路径。 6. 在每个namenode节点上启动NameNode服务,并在hdfs-site.xml文件中配置dfs.namenode.name.dir属性,指定NameNode的元数据存储路径。 7. 在每个namenode节点上启动DataNode服务,并在hdfs-site.xml文件中配置dfs.datanode.data.dir属性,指定DataNode的数据存储路径。 8. 在每个namenode节点上启动ZKFailoverController服务,并在hdfs-site.xml文件中配置dfs.ha.automatic-failover.enabled属性为true。 9. 在Zookeeper中创建一个znode节点,用于存储namenode的状态信息。 10. 启动Hadoop集群,进行测试。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值