HBase（05）——HBase内部原理

1、系统架构

Client

1 包含访问hbase的接口，client维护着一些cache来加快对hbase的访问，比如region的位置信息。

Zookeeper

1 保证任何时候，集群中只有一个master
2 存贮所有Region的寻址入口----root表在哪台服务器上。
3 实时监控Region Server的状态，将Region server的上线和下线信息实时通知给Master
4 存储Hbase的schema,包括有哪些table，每个table有哪些column family

Master职责

1 为Region server分配region
2 负责region server的负载均衡
3 发现失效的region server并重新分配其上的region
4 HDFS上的垃圾文件回收
5 处理schema更新请求

Region Server职责

1 Region server维护Master分配给它的region，处理对这些region的IO请求
2 Region server负责切分在运行过程中变得过大的region
可以看到，client访问hbase上数据的过程并不需要master参与（寻址访问zookeeper和region server，数据读写访问regione server），master仅仅维护者table和region的元数据信息，负载很低。

2、物理存储

2.1 整体结构

1 表中的所有行都按照row key的字典序排列。

2 表在行的方向上分割为多个region。

3 region按大小分割的(默认10G)，每个表一开始只有一个region，随着数据不断插入表，region不断增大，当增大到一个阀值(默认10G)的时候，region就会等分为两个新的region。当表中的行不断增多，就会有越来越多的region。

4 region是Hbase中分布式存储和负载均衡的最小单元。最小单元就表示不同的region可以分布在不同的HRegion server上。但一个region是不会拆分到多个region server上的。

5 region虽然是负载均衡的最小单元，但并不是物理存储的最小单元。
事实上，region由一个或者多个Store组成，每个store保存一个column family。
Store是按照列族进行划分，整个表有几个列族，最开始就有几个store。
每个Store又由一个memStore和0至多个StoreFile组成。
Memstore:是store中的一块内存区域，数据在插入到表中的时候，会先写入到memstore中，memstore中数据到达一定的阈值的时候，会把数据写入到磁盘中。每次写入到磁盘产生一个StoreFile文件，是以HFile的数据格式存储在HDFS中。
Memstore存储到磁盘中阈值的条件：
（1）数据量达到128M,
（2）或时间超过一个小时。

2.2 STORE FILE & HFILE结构

StoreFile以HFile格式保存在HDFS上。
HFile的格式为：

HFile文件是不定长的，长度固定的只有其中的两块：Trailer和FileInfo。正如图中所示的，Trailer中有指针指向其他数据块的起始点。
File Info中记录了文件的一些Meta信息，例如：AVG_KEY_LEN, AVG_VALUE_LEN, LAST_KEY, COMPARATOR, MAX_SEQ_ID_KEY等。
Data Index和Meta Index块记录了每个Data块和Meta块的起始点。
Data Block是HBase I/O的基本单元，为了提高效率，HRegionServer中有基于LRU的Block Cache机制。每个Data块的大小可以在创建一个Table的时候通过参数指定，大号的Block有利于顺序Scan，小号Block利于随机查询。 每个Data块除了开头的Magic以外就是一个个KeyValue对拼接而成, Magic内容就是一些随机数字，目的是防止数据损坏。
HFile里面的每个KeyValue对就是一个简单的byte数组。但是这个byte数组里面包含了很多项，并且有固定的结构：

开始是两个固定长度的数值，分别表示Key的长度和Value的长度。
紧接着是Key，开始是固定长度的数值，表示RowKey的长度，
紧接着是 RowKey，
然后是固定长度的数值，表示Family的长度，
再然后是Column Family，
接着是Qualifier，
然后是两个固定长度的数值，表示Time Stamp和Key Type（Put/Delete）。
最后Value部分就是纯粹的二进制数据。

HFile分为六个部分：

Data Block 段–保存表中的数据，这部分可以被压缩
Meta Block 段 (可选的)–保存用户自定义的kv对，可以被压缩。
File Info 段–Hfile的元信息，不被压缩，用户也可以在这一部分添加自己的元信息。
Data Block Index 段–Data Block的索引。每条索引的key是被索引的block的第一条记录的key。
Meta Block Index段 (可选的)–Meta Block的索引。
Trailer–这一段是定长的。保存了每一段的偏移量，读取一个HFile时，会首先 读取Trailer，Trailer保存了每个段的起始位置(段的Magic Number用来做安全check)，然后，DataBlock Index会被读取到内存中，这样，当检索某个key时，不需要扫描整个HFile，而只需从内存中找到key所在的block，通过一次磁盘io将整个 block读取到内存中，再找到需要的key。DataBlock Index采用LRU机制淘汰。
HFile的Data Block，Meta Block通常采用压缩方式存储，压缩之后可以大大减少网络IO和磁盘IO，随之而来的开销当然是需要花费cpu进行压缩和解压缩。
目标Hfile的压缩支持两种方式：Gzip，Lzo。

2.3 Memstore与storefile

一个region由多个store组成，每个store包含一个列族的所有数据。
Store包含位于内存的memstore和位于硬盘（HDFS）的storefile。


写操作先写入memstore,当memstore中的数据量达到某个阈值，Hregionserver启动flashcache进程将memstore中的数据写入storefile,每次写入形成单独一个storefile。
当storefile的个数超过一定阈值后（默认参数hbase.hstore.blockingStoreFiles=10），多个storeFile会进行合并，当该region的所有store的storefile大小之和，即所有store的大小超过hbase.hregion.max.filesize=10G时，这个region会被拆分，会把当前的region分割成两个，并由Hmaster分配给相应的regionserver，实现负载均衡。
客户端检索数据时，先在memstore找，找不到再找storefile。

2.4 HLog(WAL log)

WAL 意为Write ahead log，该机制用于数据的容错和恢复，Hlog记录数据的所有变更,一旦数据修改，就可以从log中进行恢复。
每个HRegionServer中都有一个HLog对象，HLog是一个实现Write Ahead Log的类，在每次用户操作写入MemStore的同时，也会写一份数据到HLog文件中（HLog文件格式见后续），HLog文件定期会滚动出新的，并删除旧的文件（已持久化到StoreFile中的数据）。
当HRegionServer意外终止后，HMaster会通过Zookeeper感知到，HMaster首先会处理遗留的 HLog文件，将其中不同Region的Log数据进行拆分，分别放到相应region的目录下，然后再将失效的region重新分配，领取到这些region的HRegionServer在Load Region的过程中，会发现有历史HLog需要处理，因此会Replay HLog中的数据到MemStore中，然后flush到StoreFiles，完成数据恢复。


HLog文件就是一个普通的Hadoop Sequence File：
–HLog Sequence File 的Key是HLogKey对象，HLogKey中记录了写入数据的归属信息，除了table和region名字外，同时还包括 sequence number和timestamp，timestamp是”写入时间”，sequence number的起始值为0，或者是最近一次存入文件系统中sequence number。
–HLog Sequece File的Value是HBase的KeyValue对象，即对应HFile中的KeyValue。