hbase Invalid HFile block magic on hdfs system

最新推荐文章于 2022-03-22 15:39:18 发布

fangbinyu

最新推荐文章于 2022-03-22 15:39:18 发布

阅读量2.4k

点赞数

分类专栏： hbase 文章标签： hadoop集群 hbase 异常 hdfs 硬盘

本文链接：https://blog.csdn.net/fangbinyu/article/details/39546787

版权

在hbase集群中遇到Invalid HFile block magic错误，导致应用异常。分析发现该问题是由于硬盘故障引起的，而非代码或配置问题。关闭HBase的校验验证参数并未解决问题。解决方法是关闭故障节点的datanode和regionserver，检查硬盘发现存在坏块。移除坏硬盘并恢复校验设置后，服务恢复正常。这提示我们需要重视磁盘监控以确保数据一致性。

摘要由CSDN通过智能技术生成

昨天hbase突然出错，前台的应用访问hbase链接堆死，看hbase日志，报如下错误：

java.io.IOException: Could not seek StoreFileScanner[HFileScanner for reader reader=hdfs://master:9000/hbase/metadata/7d30805699ab98a11cf1f3f4945d9609/meta/5042f025c06c45819cc5c3821e6298cf, compression=none
, cacheConf=CacheConfig:enabled [cacheDataOnRead=true] [cacheDataOnWrite=false] [cacheIndexesOnWrite=false] [
cacheBloomsOnWrite=false] [cacheEvictOnClose=false] [cacheCompressed=false], firstKey=001100220736330/meta:re
fvalue/20140922/Put, lastKey=001100301928568/meta:refvalue/20140922/Put, avgKeyLen=39, avgValueLen=8, entries
=483817, length=27616128, cur=001100220819798/meta:C001/20140922/Maximum/vlen=0/ts=0] to key 001100220819798/
meta:C001/LATEST_TIMESTAMP/Maximum/vlen=0/ts=0
        at org.apache.hadoop.hbase.regionserver.StoreFileScanner.seek(StoreFileScanner.java:158)
        at org.apache.hadoop.hbase.regionserver.StoreFileScanner.enforceSeek(StoreFileScanner.java:351)
        at org.apache.hadoop.hbase.regionserver.KeyValueHeap.pollRealKV(KeyValueHeap.java:333)
        at org.apache.hadoop.hbase.regionserver.KeyValueHeap.generalizedSeek(KeyValueHeap.java:291)
        at org.apache.hadoop.hbase.regionserver.KeyValueHeap.requestSeek(KeyValueHeap.java:256)
        at org.apache.hadoop.hbase.regionserver.StoreScanner.reseek(StoreScanner.java:519)
        at org.apache.hadoop.hbase.regionserver.StoreScanner.next(StoreScanner.java:402)