java hfile_HFile存储格式

本文详细介绍了HBase中的HFile存储格式,包括其6个组成部分:Data Block、Meta Block、File Info、Data Block Index、Meta Block Index和Fixed File Trailer。HFile中的每个KeyValue包含Key和Value,而Data Block由多个记录组成,利于随机读和Scan操作。Meta Block存储Bloom Filter信息,File Info保存HFile的基本信息,而Block Index用于快速定位数据。
摘要由CSDN通过智能技术生成

HBase中的所有数据文件都存储在Hadoop

HDFS文件系统上,主要包括两种文件类型:

1. HFile, HBase中KeyValue数据的存储格式,HFile是Hadoop的二进制格式文件,实际上StoreFile就是对HFile做了轻量级包装,即StoreFile底层就是HFile

2. HLog File,HBase中WAL(Write Ahead Log)

的存储格式,物理上是Hadoop的Sequence File

下面主要通过代码理解一下HFile的存储格式。

HFile

下图是HFile的存储格式:

b41399669bac1b7034f82c61ee42e83f.png

HFile由6部分组成的,其中数据KeyValue保存在Block 0

… N中,其他部分的功能有:确定Block Index的起始位置;确定某个key所在的Block位置(如block

index);判断一个key是否在这个HFile中(如Meta Block保存了Bloom Filter信息)。具体代码是在HFile.java中实现的,HFile内容是按照从上到下的顺序写入的(Data

Block、Meta Block、File Info、Data Block Index、Meta Block

Index、Fixed File Trailer)。

KeyValue: HFile里面的每个KeyValue对就是一个简单的byte数组。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值