Hbase学习笔记

HBase简介

HBase是一种分布式、可扩展、支持海量数据存储的NoSQL数据库，利用Hadoop HDFS作为其文件存储系统,利用Hadoop MapReduce来处理 Hbase中的海量数据,利用Zookeeper作为其分布式协同服务

主要用来存储非结构化和半结构化的松散数据（列存NoSQL数据库）

hbase优势
全 Hadoop 集成：完全支持 HDFS 和 MapReduce
Highly fault tolerance 高容错！
Built-in scalability 内置扩展 !
Built-in load-balancing 内置负载均衡 !
Strongly consistent 数据更新严格一致 !
Automatic versioning 自动版本!
Automatic RegionServer failover 自动故障转移
Flexible secondary index solutions 灵活的二级索引解决方案
Automatic sharding 自动分片：自动分割大表格和重新分配
Supports massively parallelized processing 支持大规模并行处理

HBase 其中一个最重要的特点是 “数据更新严格 Strong Consistency”，HBase 使用多版本 multiversioning，避免编辑并发引起的数据冲突，提供最佳的量写和出色的随机读取性能

HBase数据模型

逻辑上，HBase的数据模型同关系型数据库很类似，数据存储在一张表中，有行有列。但从HBase的底层物理存储结构（K-V）来看，HBase更像是一个multi-dimensional map。

2.1 HBase逻辑结构

2.2 HBase物理存储结构

2.3 数据模型

1）Name Space
命名空间，类似于关系型数据库的DataBase概念，每个命名空间下有多个表。HBase有两个自带的命名空间，分别是“hbase”和“default”，“hbase”中存放的是HBase内置的表，“default”表是用户默认使用的命名空间。
2）Region
类似于关系型数据库的表概念。不同的是，HBase定义表时只需要声明列族即可，不需要声明具体的列。这意味着，往HBase写入数据时，字段可以动态、按需指定。因此，和关系型数据库相比，HBase能够轻松应对字段变更的场景。
3）Row
HBase表中的每行数据都由一个RowKey和多个Column（列）组成，数据是按照RowKey的字典顺序存储的，并且查询数据时只能根据RowKey进行检索，所以RowKey的设计十分重要。
4）Column
HBase中的每个列都由Column Family(列族)和Column Qualifier（列限定符）进行限定，例如info：name，info：age。建表时，只需指明列族，而列限定符无需预先定义。
5）Time Stamp
用于标识数据的不同版本（version），每条数据写入时，如果不指定时间戳，系统会自动为其加上该字段，其值为写入HBase的时间。
6）Cell
由{rowkey, column Family：column Qualifier, time Stamp} 唯一确定的单元。
cell中的数据是没有类型的，全部是字节码形式存储。

HBase基本架构

架构角色
1）Region Server
Region Server为 Region的管理者，其实现类为HRegionServer，主要作用如下:
对于数据的操作：get, put, delete；
对于Region的操作：splitRegion、compactRegion。
2）Master
Master是所有Region Server的管理者，其实现类为HMaster，主要作用如下：
对于表的操作：create, delete, alter
对于RegionServer的操作：分配regions到每个RegionServer，监控每个RegionServer的状态，负载均衡和故障转移。
3）Zookeeper
HBase通过Zookeeper来做Master的高可用、RegionServer的监控、元数据的入口以及集群配置的维护等工作。Zookeeper是作为Hbase Master的HA解决方案，Zookeeper保证了至少有一个Hbase Master 处于运行状态。并且Zookeeper负责Region和Region Server的注册
4）HDFS
HDFS为HBase提供最终的底层数据存储服务，同时为HBase提供高可用的支持。

架构原理

1）StoreFile
保存实际数据的物理文件，StoreFile以HFile的形式存储在HDFS上。每个Store会有一个或多个StoreFile（HFile），数据在每个StoreFile中都是有序的。
2）MemStore
写缓存，由于HFile中的数据要求是有序的，所以数据是先存储在MemStore中，排好序后，等到达刷写时机才会刷写到HFile，每次刷写都会形成一个新的HFile。
3）WAL
由于数据要经MemStore排序后才能刷写到HFile，但把数据保存在内存中会有很高的概率导致数据丢失，为了解决这个问题，数据会先写在一个叫做Write-Ahead logfile的文件中，然后再写入MemStore中。所以在系统出现故障的时候，数据可以通过这个日志文件重建。

写流程

1）Client先访问Zookeeper，获取hbase:meta表位于哪个RegionServer。
2）访问对应的RegionServer，获取hbase:meta表，根据读请求的namespace:table/rowkey，查询出目标数据位于哪个RegionServer中的哪个Region中。并将该table的region信息以及meta表的位置信息缓存在客户端的meta cache，方便下次访问。
3）与目标RegionServer进行通讯；
4）将数据顺序写入（追加）到WAL；
5）将数据写入对应的MemStore，数据会在MemStore进行排序；
6）向客户端发送ack；
7）等达到MemStore的刷写时机后，将数据刷写到HFile。

读流程

1）Client先访问Zookeeper，获取hbase:meta表位于哪个RegionServer。
2）访问对应的RegionServer，获取hbase:meta表，根据读请求的namespace:table/rowkey，查询出目标数据位于哪个RegionServer中的哪个Region中。并将该table的region信息以及meta表的位置信息缓存在客户端的meta cache，方便下次访问。
3）与目标RegionServer进行通讯
4）分别在BlockCache（读缓存），MemStore中查询目标数据，如果BlockCache中未查到相应数据则扫描对应的HFile文件，HFile中扫描到的数据块（默认64K）写入BlockCache，并将查到的所有数据进行合并。此处所有数据是指同一条数据的不同版本（timestamp）或者不同的类型（Put/Delete）。
5）将合并后的最终结果返回给客户端。

MemStore Flush

触发条件
1）MemStore级别
当某个MemStore的大小达到了hbase.hregion.memstore.flush.size（默认值128M），会触发MemStore的刷写。
2）HRegion级别
当Region中的MemStore的大小达到了
hbase.hregion.memstore.flush.size（默认值128M）* hbase.hregion.memstore.block.multiplier（默认值4）
时，会阻止继续往该MemStore写数据。
3）HRegionServer级别
当RegionServer中MemStore的总大小达到
java_heapsizehbase.regionserver.global.memstore.size（默认值0.4）hbase.regionserver.global.memstore.size.lower.limit（默认值0.95），Server会按照其所有MemStore的大小顺序（由大到小）依次进行刷写。
当HRegionServer中MemStore的总大小达到java_heapsizehbase.regionserver.global.memstore.size（默认值0.4）时，会阻止继续往所有的MemStore写数据。
当regionserver上所有的memstore大小小于java_heapsizehbase.regionserver.global.memstore.size（默认值0.4）*hbase.regionserver.global.memstore.size.lower.limit会停止flush剩余的region
4）HLog级别
当WAL文件的数量超过hbase.regionserver.maxlogs，region会按照时间顺序依次进行刷写，直到WAL文件数量减小到hbase.regionserver.maxlogs以下（该属性名已经废弃，现无需手动设置，最大值为32）。
5）定期刷写
到达自动刷写的时间，也会触发MemStore flush。自动刷新的时间间隔由该属性进行配置hbase.regionserver.optionalcacheflushinterval（默认1小时），指的是当前MemStore最后一次编辑时间。
6）手动刷写
用户通过shell命令“flush ‘table’”或者“flush ‘regionname’”分别对一个Region或者多个Region进行flush

1、region中某个memstore的大小达到128M,会触发flush
2、region中所有的memstore的总大小达到128*4,会触发flush
3、regionserver中所有的region中的所有的memstore的总大小达到javaHeap * 0.4 *0.95,会根据region中所有的memstore占用的内存大小排序,优先flush占用空间大的region
4、当写入特别频繁的时候,第三个触发条件可能会适当的延迟,延迟到regionserver中所有的region中的所有的memstore的总大小达到javaHeap * 0.4,会阻塞client的写入，会根据region中所有的memstore占用的内存大小排序,优先flush占用空间大的region，flush到占用总空间<=javaHeap * 0.4 *0.95的时候会停止flush，允许client写入
5、regionserver对应WAL日志文件数量达到32的时候，会flush
6、region距离上一次flush的时间超过一个小时，会自动flush
7、手动flush: flush '表名'

StoreFile Compaction

由于memstore每次刷写都会生成一个新的HFile，且同一个字段的不同版本（timestamp）和不同类型（Put/Delete）有可能会分布在不同的HFile中，因此查询时需要遍历所有的HFile。为了减少HFile的个数，以及清理掉过期和删除的数据，会进行StoreFile Compaction。
Compaction分为两种，分别是Minor Compaction和Major Compaction。
（1）Minor Compaction会将临近的若干个较小的HFile合并成一个较大的HFile，但不会清理过期和删除的数据。
（2）Major Compaction会将一个Store下的所有的HFile合并成一个大HFile，并且会清理掉过期和删除的数据。
minor compact:
触发条件: 符合文件数>=3 的时候会自动合并
符合文件数: 判断当前文件是否需要合并, 当前文件大小 <= sum(小于当前文件大小的所有文件) * 比例,如果满足该条件，则代表当前文件需要合并
合并的过程: 单纯的将小文件合并成大文件,在合并的过程中不会删除无效数据【无效版本数据、标记删除数据】
合并结果: 会有多个大文件
major compact:
触发条件: 7天一次
合并过程: 在合并的过程中会删除无效数据【无效版本数据、标记删除数据】
合并结果: 合并之后，store中只有一个文件

Region Split

默认情况下，每个Table起初只有一个Region，随着数据的不断写入，Region会自动进行拆分。刚拆分时，两个子Region都位于当前的Region Server，但处于负载均衡的考虑，HMaster有可能会将某个Region转移给其他的Region Server。
Region Split时机：
1）0.94版本之前：使用的是ConstantSizeRegionSplitPolicy策略。
当1个region中的某个Store下所有StoreFile的总大小超过hbase.hregion.max.filesize，该Region就会进行拆分。
2）0.94版本-2.0版本：使用的是IncreasingToUpperBoundRegionSplitPolicy。
当1个Region中的某个Store下所有StoreFile的总大小超过Min(2R^3 * “hbase.hregion.memstore.flush.size”,hbase.hregion.max.filesize")，该Region就会进行拆分，其中R为当前Region Server中属于该Table的Region个数。
3）2.0版本：使用的是SteppingSplitPolicy。
当前RegionServer中属于该Table的Region个数为1，分裂阈值等于flushSize2，否则为hbase.hregion.max.filesize。

切分规则:
0.9版本之前: 当region中某个store中storeFile总大小达到10G的时候,该region会切分为两个
0.9版本-2.0版本:
当region中某个store中storeFile总大小达到 [N == 0 || N>100 ? 10G: min(10G,2128MN^3) ]的时候,该region会切分为两个N代表region所属表在当前regionserver上的region个数
2.0版本之后:
当region中某个store中storeFile总大小达到 [N == 1 ? 2 *128M : 10G ]的时候,该region会切分为两个N代表region所属表在当前regionserver上的region个数