在exclude_datanode_hosts和exclude_nodemanager_hosts文件中分别写入要下线的节点ip。
1.执行datanode下线命令
hdfs dfsadmin -refreshNodes
2.执行nodemanager下线命令
yarn rmadmin -refreshNodes
3.查看下线情况
hdfs dfsadmin -reportyarn node -list
Decomissioning标记的即为正在下线的datanode,hadoop集群会尽快的将要下线的datanode数据块复制到其他节点上
复制完成之后会变成Decommission Status : Decommissioned,此时可以下线此datanode。
4.下线完成,kill掉相关进程。
使用 hdfs dfsadmin -report命令 查看 DataNode节点信息。
使用 yarn node -list命令 查看 nodemanager节点信息。
备注:
yarn rmadmin -refreshNodes 23/09/06 14:25:50 INFO client.ConfiguredRMFailoverProxyProvider: Failing over to rm2。
yarn rmadmin -refreshNodes是一个YARN(Yet Another Resource Negotiator)命令,用于刷新集群的节点列表和节点的资源信息。在执行这个命令时,YARN将重新获取所有集群节点的最新信息,包括节点的健康状况、可用的资源等。
你的命令中还包含一个时间戳“23/09/06 14:25:50”,这可能是你执行命令的具体时间。
至于“INFO client.ConfiguredRMFailoverProxyProvider: Failing over to rm2”,这是在YARN的高可用(High-Availability,HA)设置中,FailoverProxyProvider的一种日志消息。它表示YARN的高可用性代理(FailoverProxyProvider)正在失败并切换到另一个资源管理器(rm2)。
总的来说,这个日志消息表示你执行了yarn rmadmin -refreshNodes命令,并且在执行该命令的过程中,由于YARN的高可用性设置,发生了从当前的资源管理器到另一个资源管理器的切换。这通常是正常的操作,因为高可用的设置就是为了确保当一个资源管理器出现问题时,另一个可以接管并继续提供服务。