Hadoop生态之HBase知识点总结

一、简介

HBase是一种Hadoop数据库，经常被描述为一种稀疏的，分布式的，持久化的，多维有序映射，它基于行键、列键和时间戳建立索引，是一个可以随机访问的存储和检索数据的平台。HBase不限制存储的数据的种类，允许动态的、灵活的数据模型，不用SQL语言，也不强调数据之间的关系。HBase被设计成在一个服务器集群上运行，可以相应地横向扩展。

二、特点

1）面向列：HBase是面向列的存储和权限控制，并支持独立检索。列式存储，其数据在表中是按照某列存储的，这样在查询只需要少数几个字段的时候，能大大减少读取的数据量。

2）多版本：HBase每一个列的数据存储有多个Version。

3）稀疏性：为空的列并不占用存储空间，表可以设计的非常稀疏。

4）扩展性：底层依赖于HDFS。

5）高可靠性：WAL机制保证了数据写入时不会因集群异常而导致写入数据丢失；Replication机制保证了在集群出现严重问题的时候，数据不会发生丢失或损坏。而且HBase底层使用HDFS，HDFS本身也有备份。

6）高性能：底层的LSM数据结构和Rowkey有序排列等架构上的独特设计，使得HBase具有非常高的写入性能。region切分、主键索引和缓存机制使得HBase在海量数据下具备一定的随机读取性能，该性能针对Rowkey的查询能够达到毫秒级别。

三、架构体系

此部分摘自https://www.cnblogs.com/steven-note/p/7209398.html

HBase中的每张表都通过键按照一定的范围被分割成多个子表（HRegion），默认一个HRegion超过256M就要被分割成两个，这个过程由HRegionServer管理，而HRegion的分配由HMaster管理。

 

HMaster

• 为HRegionServer分配HRgion
• 负责HRegionServer的负载均衡
• 发现失效的HRegionServer并重新分配
• HDFS上的垃圾文件回收
• 处理Schema更新请求

HRegionServer

• 维护HMaster分配给它的HRegion，处理对这些HRegion的IO请求
• 负责切分正在运行过程中变得过大的HRegion

可以看到，Client访问HBase上的数据并不需要HMaster参与，寻址访问Zookeeper和HRegionServer，数据读写访问HRegionServer，HMaster仅仅维护Table和Region的元数据信息，Table的元数据信息保存在Zookeeper上，负载很低。HRegionServer存取一个子表时，会创建一个HRegion对象，然后对表的每个列簇创建一个Store对象，每个Store都会有一个MemStore和0或多个StoreFile与之对应，每个StoreFile都会对应一个HFile，HFile就是实际的存储文件。因此，一个HRegion有多少列簇就有多少个Store。一个HRegionServer会有多个HRegion和一个HLog。

HRegion

Table在行的方向上分割为多个HRegion，HRegion是HBase中分布式存储和负载均衡的最小单元，即不同的HRegion可以分别在不同的HRegionServer上，但同一个HRegion是不会拆分到多个HRegionServer上的。HRegion按大小分割，每个表一般只有一个HRegion，随着数据不断插入表，HRegion不断增大，当HRegion的某个列簇达到一个阈值（默认256M）时就会分成两个新的HRegion。

    1、<表名，StartRowKey, 创建时间>

    2、由目录表(-ROOT-和.META.)记录该Region的EndRowKey

HRegion定位：HRegion被分配给哪个HRegionServer是完全动态的，所以需要机制来定位HRegion具体在哪个HRegionServer，HBase使用三层结构来定位HRegion：

        1、通过zk里的文件/hbase/rs得到-ROOT-表的位置。-ROOT-表只有一个region。

        2、通过-ROOT-表查找.META.表的第一个表中相应的HRegion位置。其实-ROOT-表是.META.表的第一个region；

             .META.表中的每一个Region在-ROOT-表中都是一行记录。

        3、通过.META.表找到所要的用户表HRegion的位置。用户表的每个HRegion在.META.表中都是一行记录。

 

        -ROOT-表永远不会被分隔为多个HRegion，保证了最多需要三次跳转，就能定位到任意的region。Client会将查询的位置信息保存缓存起来，缓存不会主动失效，

        因此如果Client上的缓存全部失效，则需要进行6次网络来回，才能定位到正确的HRegion，其中三次用来发现缓存失效，另外三次用来获取位置信息。

Store

每一个HRegion由一个或多个Store组成，至少是一个Store，HBase会把一起访问的数据放在一个Store里面，即为每个ColumnFamily建一个Store，如果有几个ColumnFamily，也就有几个Store。一个Store由一个MemStore和0或者多个StoreFile组成。HBase以Store的大小来判断是否需要切分HRegion。

MemStore

MemStore是放在内存里的，保存修改的数据即keyValues。当MemStore的大小达到一个阈值（默认64MB）时，MemStore会被Flush到文件，即生成一个快照。目前HBase会有一个线程来负责MemStore的Flush操作。

StoreFile

MemStore内存中的数据写到文件后就是StoreFile，StoreFile底层是以HFile的格式保存。

HFile

HBase中KeyValue数据的存储格式，是Hadoop的二进制格式文件。首先HFile文件是不定长的，长度固定的只有其中的两块：Trailer和FileInfo。Trailer中有指针指向其他数据块的起始点，FileInfo记录了文件的一些meta信息。Data Block是HBase IO的基本单元，为了提高效率，HRegionServer中有基于LRU的Block Cache机制。每个Data块的大小可以在创建一个Table的时候通过参数指定（默认块大小64kb），大号的Block有利于顺序Scan，小号的Block利于随机查询。每个Data块除了开头的Magic以外就是一个个KeyValue对拼接而成，Magic内容就是一些随机数字，目的是防止数据损坏，结构如下

HFile结构图如下：

Data Block段用来保存表中的数据，这部分可以被压缩。 Meta Block段（可选的）用来保存用户自定义的kv段，可以被压缩。 FileInfo段用来保存HFile的元信息，不能被压缩，用户也可以在这一部分添加自己的元信息。 Data Block Index段（可选的）用来保存Meta Blcok的索引。 Trailer这一段是定长的。保存了每一段的偏移量，读取一个HFile时，会首先读取Trailer，Trailer保存了每个段的起始位置(段的Magic Number用来做安全check)，然后，DataBlock Index会被读取到内存中，这样，当检索某个key时，不需要扫描整个HFile，而只需从内存中找到key所在的block，通过一次磁盘io将整个 block读取到内存中，再找到需要的key。DataBlock Index采用LRU机制淘汰。 HFile的Data Block，Meta Block通常采用压缩方式存储，压缩之后可以大大减少网络IO和磁盘IO，随之而来的开销当然是需要花费cpu进行压缩和解压缩。（备注： DataBlock Index的缺陷。 a) 占用过多内存　b) 启动加载时间缓慢）

HLog

HLog（WAL Log）：WAL意为write ahead log，用来做灾难恢复使用，HLog记录数据的所有变更，一旦region server宕机，就可以从log中进行恢复。

LogFlusher

定期的将缓存中信息写入到日志文件中。

LogRoller

对日志文件进行管理维护。

 

三、设计模型

列式存储

Table = RowKey + Family + Column + Timestamp + Value

列簇：

• 一张表列簇不会超过5个
• 每个列簇中的列数没有限制
• 列只有插入数据后存在

• 列在列簇中是有序的

四、HBase数据存取流程解析

数据存储

客户端：HBase Client回去请求Zookeeper，确定meta表所在的RegionServer的地址，根据RowKey找到他们归属的RegionServer，最后用户提交put或者delete等请求，HBase客户端会将请求添加到本地buffer中，符合一定条件就会异步批量提交（默认自动刷写为true）

服务器：数据到达RegionServer之后，服务器首先获取行锁RowLock，保证更新的原子性，之后HBase写缓存MemStore，同时写入Hlog中，之后释放行锁写入HDFS，当MemStore超过一定阈值（默认64M），将会启动异步线程将数据写入硬盘，形成多个StoreFile，超过一定阈值就会合并成一个Store File，同时进行版本合并和数据删除，当单个StoreFile超过一定阈值之后就会触发split操作，将一个region拆分成两个region，原来的region会下线。

数据获取

客户端：类似数据存储的流程

服务器：HBase会在确定的RegionServer上构建一个RegionScanner，准备对当前定位的Region做检索，RegionScanner会根据列簇去构建StoreScanner，每个StoreScanner会为当前Store中的HFile构建一个StoreFileScanner，同时会对对应的MemStore构建一个MemStoreScanner，经过以上步骤找到数据在服务器端表现为多个KV结构，经过简单封装就可以返回给客户端了