如何检测HDFS的均衡状态?

本文介绍了如何检测HDFS集群的均衡状态,通过计算DFS Capacity Used比例并对比Rebalancing Threshold,将节点标记为Over、Above、Below或Under。当Over或Under组有节点时会触发Rebalancing。在CDH环境中,Rebalancing日志位于特定路径下。
摘要由CSDN通过智能技术生成
HDFS执行Rebalancing时,会首先检查当前是否处于均衡状态,如果不均衡才会执行Rebalancing。

检测时,首先计算整个集群的DFS Capacity Used比例(cluster_avg),以及每个节点的DFS Capacity Used比例(node_avg)。再比较每个节点的node_avg和cluster_avg,比较规则如下图:


图中的Rebalancing Threshold为配置项,默认值为10%。将cluster_avg+Rebalancing Threshold记为upper_limit,cluster_avg-Rebalancing Threshold记为lower_limit。

如果:node_avg>upper_limit,则该节点给标记为Over;否则,如果node_avg>cluster_avg,则该节点给标记为Above;否则,如果node_avg>lower_limit,则该节点给标记为Below;否则(node_avg<lower_limit),则该节点给标记为Under。

比较后得到了四组node(Over、Above、Below和Under),如果Over和Under组不包含任何节点,

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值