深度剖析HBase负载均衡和性能指标

深度剖析 HBase 负载均衡和性能指标

在分布式系统中，负载均衡是一个非常重要的功能， HBase通过Region的数量实现负载均衡，即通过hbase.master.loadbalancer.class实现自定义负载均衡算法。下面将为大家剖析HBase负载均衡的相关内容以及性能指标。

内容

HBase系统负载均衡是一个周期性的操作，通过负载均衡来均匀分配Region到各个RegionServer上，通过hbase.balancer.period属性来控制负载均衡的时间间隔，默认是5分钟。触发负载均衡操作是有条件的，但是如果发生以下情况则不会触发负载均衡操作：

l  负载均衡自动操作 balance_switch关闭，即：balance_switch false；

l  HBase Master节点正在初始化操作；

l  HBase集群中正在执行RIT，即Region正在迁移中；

l  HBase集群正在处理离线的RegionServer；

负载均衡算法

HBase执行负载均衡操作的时候，如何判断各个RegionServer节点上的Region个数是否均衡，这里通过以下步骤来判断：

l  计算均衡值的区间范围，通过总 Region个数以及RegionServer节点个数，算出平均Region个数，然后在此基础上计算最小值和最大值；

l  遍历超过 Region最大值的RegionServer节点，将该节点上的Region值迁移出去，直到该节点的Region个数小于等于最大值的Region；

l  遍历低于 Region最小值的RegionServer节点，分配集群中的Region到这些RegionServer上，直到大于等于最小值的Region；

l  负责上述操作，直到集群中所有的 RegionServer上的Region个数在最小值与最大值之间，集群才算到达负载均衡，之后，即使再次手动执行均衡命令，HBase底层逻辑判断会执行忽略操作。

算法流程实例

下面笔者通过实际的应用场景来给大家剖析 HBase负载均衡算法的实现流程。举个例子，假如我们当前有一个5台节点规模的HBase集群(包含Master和RegionServer)，其中2台Master和3台RegionServer组成，每台RegionServer上的Region个数，如图所示：

 

图 1

执行负载均衡操作之前，首先计算集群中总的 Region个数，当前实例中集群中的Region总个数为175+56+99=330，然后计算每个RegionServer需要容纳的Region平均值，计算结果：

 

平均值 (110) = 总Region个数(330) / RegionServers总数(3)

 

计算最小值和最大值来判断 HBase集群是否需要进行负载均衡操作，计算公式：

 

# hbase.regions.slop 权重值，默认为0.2
最小值  = Math. floor (平均值 * ( 1-0.2 ))
最大值  = Math. ceil (平均值 * ( 1 + 0.2 ))

 

HBase集群如果判断各个RegionServer中的最小Region个数大于计算后的最小值，并且最大Region个数小于最大值，这是直接返回不会触发负载均衡操作。根据实例中给出的Region数，计算得出最小值Region为88，最大值Region为120。

由于实例中 RegionServer2的Region个数为56，小于最小值Region数88，而RegionServer1的Region个数为175，大于了最大值Region数120，所以需要负载均衡操作。

HBase系统提供管理员命令来操作负载均衡，具体操作命令：

 

# 使用hbase shell命令进入到HBase控制台，然后开启自动执行负载均衡
hbase(main):001:0>  balance_switch true

 

balance_switch 命令底层实现 balance_switch.rb 和 admin.rb 文件源码：

 

图 2

此命令输出的是之前负载均衡器 balancer的开关设置，再看balance_switch命令处理实现源码：

 

图 3

此时 HBase负载均衡自动操作就开启完毕，但是如果我们需要立即均衡集群的Region个数怎么办？这里HBase也提供管理命令，通过balancer命令来实现，操作命令：

 

hbase ( main ) :001:0 >  balancer

 

balancer命令实现查看balancer.rb和admin.rb文件源码：

 

图 4

 

图 5

该命令通过调用负载均衡器 balancer的balanceCluster()方法生成负载均衡计划执行集群的负载均衡操作，Master实现负载均衡底层源码：

 

图 6-1

 

图 6-2

但是这样每次手动执行，每次均衡的个数不一定能满足要求，那么我们可以通过封装该命令，用脚本来调度执行，具体实现代码：

 

图 7

此脚本默认执行 20次，可以通过输入整型参数来自定义执行次数。

当 HBase集群检查完所有的RegionServer上的Region个数已打要求，那么此时集群的负载均衡操作就已经完成了。如果没有达到要求，可以再次执行上述脚本，直到所有的Region个数在最小值和最大值之间为止。当HBase集群中所有的RegionServer完成负载均衡后，实例中的各个RegionServer上的Region个数分布，如图所示：

 

图 8

此时各个 RegionServer节点上的Region个数均在最小值和最大值范围内，HBase集群各个RegionServer节点上的Region处理均衡状态。

性能指标

HBase系统有一个非常重要的性能指标，那就是集群处理请求的延时。HBase系统为了反应集群内部处理请求所耗费的时间提供一个工具类即：

 

org .apache.hadoop.hbase.tool.Canary

 

此类主要用户检查 HBase系统的耗时状态。如果不知道使用方法，通过help命令来查看具体的用法，操作命令：

 

hbase   org.apache.hadoop.hbase.tool.Canary   -help

 

(1)查看集群中每个表中每个Region的耗时情况

hbase   org.apache.hadoop.hbase.tool.Canary

 

(2)  查看 money表中每个Region的耗时情况，多个表之间使用空格分割

 

# 查看 money 表和 person 表
hbase   org.apache.hadoop.hbase.tool.Canary   money   person

 

(3)  查看每个 RegionServer的耗时情况

 

hbase   org.apache.hadoop.hbase.tool.Canary   -regionserver   dn1

 

通常情况下我们比较关注每个 RegionServer节点的耗时情况，将该命令封装一下，然后打印集群中每个RegionServer的耗时情况，脚本实现：

 

图 9

总结

维护 HBase集群，比如重启某几个RegionServer节点后，可能会发送Region不均衡的情况，这时如果开启自动均衡后，需要立即使当前集群上其他RegionServer上的Region处于均衡状态，那么就可以使用手动均衡操作。另外，HBase集群各个RegionServer的耗时情况，能够反映当前集群的健康状态。

 

来自 “ ITPUB博客 ” ，链接：http://blog.itpub.net/31555587/viewspace-2216292/，如需转载，请注明出处，否则将追究法律责任。

转载于:http://blog.itpub.net/31555587/viewspace-2216292/