hadoop集群节点下线/上线

本文详细介绍了如何在生产环境中平滑地对Hadoop集群的DataNode和NodeManager节点进行下线和上线操作,以避免影响线上作业和数据丢失。下线过程包括在配置文件中添加节点、更新NameNode或ResourceManager,并检查下线状态。上线步骤则涉及修改配置文件,更新节点状态。在HA高可用集群中,这些操作需要在所有主控节点上执行。
摘要由CSDN通过智能技术生成

在生产环境中,会碰到hadoop集群DataNode/NodeManager的节点下线/上线。如果强制下线节点会影响到线上作业,而且还会影响到hdfs上数据丢失的风险。面对线上节点的上线/下线,hadoop提供了平滑下线/上线的机制。
本集群为一个主节点master,两个从节点slave1,slave2.
1.下线DataNode
1.1 在namenode节点的hdfs-site.xml中增加配置。PATH路径根据自己的实际情况进行配置。

<property>
                <name>dfs.hosts.exclude</name>  		      
                <value>/usr/local/service/hadoop/etc/hadoop/hdfsexcludedhosts</value>
</property>

1.2 在相关文件中添加需要下线的主机

[root@master ~]# cat /usr/local/service/hadoop/etc/hadoop/hdfsexcludedhosts
slave1
slave2

1.3 在NameNode运行一下命令,将经过审核的DataNode更新至NameNode


                
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值