hbase hbck

https://issues.apache.org/jira/browse/HBASE-5128 

https://github.com/jmhsieh/hbase-repair-scripts 

 

HBASE-5128之前版本的HBCK:

检查master、regionserver内存中的状态以及hdfs上面数据的状态之间的一致性 

 

(1)获取所有region的信息(regioninfo):通过zk获得-ROOT-地址,通过扫描-ROOT-表和.META.表,就获得了所有region的信息 

(2)遍历所有的region,获得所有表信息 

(3)通过ClusterStatus获得regionserver信息 

(4)多线程连接每个regionserver,获得这个regionserver上面online的region信息。记录下region是在那个regionserver上面 

(5)遍历hbase.rootdir,获得所有的table,多线程遍历各个table的目录,记录下region是在那个目录下面 

(6)通过zk获得所有disabled的tables 

(7)检查一致性,检查每一个region 

      正常的状态是: 

      【1】在META表中,hdfs上面有,表不是disabled的, region在某个regionserver的online region集合中,META表中记录的server信息和open了这个region的regionserver一致,并且没有被多个regionserver同时服务 

      【2】在META表中,region是split完的Parent region,没有被某个regionserver服务 

      【3】在META表中,表是disabled的,并且没有被某个regionserver服务 

      异常的状态是: 

     (7.1)如果一个region即不在META表中,又不在hdfs上面,但是在regionserver的online region集合中,那么输出NOT_IN_META_HDFS错误信息 

     (7.2)如果一个region不在META表中,又不在regionserver的online region集合中,但是在hdfs上面,输出NOT_IN_META_OR_DEPLOYED错误信息 

     (7.3)如果一个region不在META表中,但是在hdfs上面有,并且在regionserver的online region集合中,那么输出NOT_IN_META错误信息 

     (7.4)如果一个region在META表中,但是在hdfs上面没有,并且也不在regionserver的online region集合中,那么输出NOT_IN_HDFS_OR_DEPLOYED错误信息 

     (7.5)如果一个region在META表中,并且在regionserver的online region集合中有,但是在hdfs上面没有,那么输出NOT_IN_HDFS错误信息 

     (7.6)如果一个region在META表中,在hdfs上面也有,但是不再online region集合中,并且这个region所在的table不是Disabled的,那么输出NOT_DEPLOYED错误信息。 可以修复 

     (7.7)如果一个region在META表中,在hdfs上面有,在online region集合中,如果这个region所在的table是Disabled的,那么输出SHOULD_NOT_BE_DEPLOYED错误信息。 

     (7.8)如果一个region在META表中,在hdfs上面有,但是被在多个regionserver的online region集合中,那么输出MULTI_DEPLOYED错误信息。可以修复 

     (7.9)如果一个region在META表中,在hdfs上面也有,也应该被服务,但是META表中记录的regionserver和实际所在的regionserver不相符,那么输出SERVER_DOES_NOT_MATCH_META错误信息。可以修复 

     (7.10)如果是其他情况,输出UNKNOWN 

(8)检查完整性,以table为单位,遍历每个table 

     (8.1)table的第一个region的startKey必须是EMPTY_BYTE_ARRAY,否则输出FIRST_REGION_STARTKEY_NOT_EMPTY信息 

     (8.2)如果这个table有(startKey=endKey)的region,输出DEGENERATE_REGION信息 

     (8.3)如果两个region的区间有重叠,startKey相同输出DUPE_STARTKEYS信息,不相同输出OVERLAP_IN_REGION_CHAIN信息 

     (8.4)如果某个区间没有region,输出HOLE_IN_REGION_CHAIN信息(空洞) 

(9)打印table的总结信息 

 

 

hbck加上 -fix 可以自己修复下面三种情况: 

(7.6)如果一个region在META表中,在hdfs上面也有,但是不再online region集合中,并且这个region所在的table不是Disabled的,那么输出NOT_DEPLOYED错误信息。 

(7.8)如果一个region在META表中,在hdfs上面有,但是被在多个regionserver的online region集合中,那么输出MULTI_DEPLOYED错误信息。 

(7.9)如果一个region在META表中,在hdfs上面也有,也应该被服务,但是META表中记录的regionserver和实际所在的regionserver不相符,那么输出SERVER_DOES_NOT_MATCH_META错误信息。

 

原先的hbck检测region的一致性和table的完整性,但是需要管理员自己修复,修复后,如果一致性和完整性没有问题,通过OfflineMetaRepair来构造新的META表 

 

HBASE-5128 中的hbck能够检测region的一致性和table的完整性,并且可以修复完整性和一致性相关的问题 

所以有了新版的hbck,这个github上面的脚本用途不是特别大 

 

新版的hbck

 

新版本的 hbck 可以修复各种错误,修复选项是: 

(1)-fix,向下兼容用,被-fixAssignments替代 

(2)-fixAssignments,用于修复region assignments错误 

(3)-fixMeta,用于修复meta表的问题,前提是HDFS上面的region info信息有并且正确。 

(4)-fixHdfsHoles,修复region holes(空洞,某个区间没有region)问题 

(5)-fixHdfsOrphans,修复Orphan region(hdfs上面没有.regioninfo的region) 

(6)-fixHdfsOverlaps,修复region overlaps(区间重叠)问题 

(7)-fixVersionFile,修复缺失hbase.version文件的问题 

(8)-maxMerge <n> (n默认是5),当region有重叠是,需要合并region,一次合并的region数最大不超过这个值。 

(9)-sidelineBigOverlaps ,当修复region overlaps问题时,允许跟其他region重叠次数最多的一些region不参与(修复后,可以把没有参与的数据通过bulk load加载到相应的region) 

(10)-maxOverlapsToSideline <n> (n默认是2),当修复region overlaps问题时,一组里最多允许多少个region不参与 

由于选项较多,所以有两个简写的选项 

(11) -repair,相当于-fixAssignments -fixMeta -fixHdfsHoles -fixHdfsOrphans -fixHdfsOverlaps -fixVersionFile -sidelineBigOverlaps 

(12)-repairHoles,相当于-fixAssignments -fixMeta -fixHdfsHoles -fixHdfsOrphans 

 

 

 

新版本的 hbck 

(1)缺失hbase.version文件 

 加上选项 -fixVersionFile 解决 

(2)如果一个region即不在META表中,又不在hdfs上面,但是在regionserver的online region集合中 

 加上选项 -fixAssignments 解决 

(3)如果一个region在META表中,并且在regionserver的online region集合中,但是在hdfs上面没有 

 加上选项 -fixAssignments -fixMeta 解决,( -fixAssignments告诉regionserver close region),( -fixMeta删除META表中region的记录) 

(4)如果一个region在META表中没有记录,没有被regionserver服务,但是在hdfs上面有 

加上选项 -fixMeta -fixAssignments 解决,( -fixAssignments 用于assign region),( -fixMeta用于在META表中添加region的记录) 

(5)如果一个region在META表中没有记录,在hdfs上面有,被regionserver服务了 

加上选项 -fixMeta 解决,在META表中添加这个region的记录,先undeploy region,后assign 

(6)如果一个region在META表中有记录,但是在hdfs上面没有,并且没有被regionserver服务 

加上选项 -fixMeta 解决,删除META表中的记录 

(7)如果一个region在META表中有记录,在hdfs上面也有,table不是disabled的,但是这个region没有被服务 

加上选项 -fixAssignments 解决,assign这个region 

(8)如果一个region在META表中有记录,在hdfs上面也有,table是disabled的,但是这个region被某个regionserver服务了 

加上选项 -fixAssignments 解决,undeploy这个region 

(9)如果一个region在META表中有记录,在hdfs上面也有,table不是disabled的,但是这个region被多个regionserver服务了 

加上选项 -fixAssignments 解决,通知所有regionserver close region,然后assign region 

(10)如果一个region在META表中,在hdfs上面也有,也应该被服务,但是META表中记录的regionserver和实际所在的regionserver不相符 

加上选项 -fixAssignments 解决 

 

(11)region holes 

需要加上 -fixHdfsHoles ,创建一个新的空region,填补空洞,但是不assign 这个 region,也不在META表中添加这个region的相关信息 

(12)region在hdfs上面没有.regioninfo文件 

-fixHdfsOrphans 解决 

(13)region overlaps 

需要加上 -fixHdfsOverlaps 

 

 

说明: 

(1)修复region holes时,-fixHdfsHoles 选项只是创建了一个新的空region,填补上了这个区间,还需要加上-fixAssignments -fixMeta 来解决问题,( -fixAssignments 用于assign region),( -fixMeta用于在META表中添加region的记录),所以有了组合拳 -repairHoles 修复region holes,相当于-fixAssignments -fixMeta -fixHdfsHoles -fixHdfsOrphans 

(2) -fixAssignments,用于修复region没有assign、不应该assign、assign了多次的问题 

(3)-fixMeta,如果hdfs上面没有,那么从META表中删除相应的记录,如果hdfs上面有,在META表中添加上相应的记录信息 

(4)-repair 打开所有的修复选项,相当于-fixAssignments -fixMeta -fixHdfsHoles -fixHdfsOrphans -fixHdfsOverlaps -fixVersionFile -sidelineBigOverlaps 

 

新版本的hbck从(1)hdfs目录(2)META(3)RegionServer这三处获得region的Table和Region的相关信息,根据这些信息判断并repair

分享到:
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值