七、HBASE-01

七、HBASE-01

HBASE概述

1、HBase概念

​ 官方网站：http://hbase.apache.org

​ HBase 是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统，利用 HBASE 技

术可在廉价 PC Server 上搭建起大规模结构化存储集群。

​ HBase 的目标是存储并处理大型的数据，更具体来说是仅需使用普通的硬件配置，就能

够处理由成千上万的行和列所组成的大型数据。

2、HBase特点

（1）海量储存

​ Hbase 适合存储 PB 级别的海量数据，在 PB 级别的数据以及采用廉价 PC 存储的情况下，能在几十到百毫秒内返回数据。这与 Hbase 的极易扩展性息息相关。正式因为 Hbase 良好的扩展性，才为海量数据的存储提供了便利。

（2）列式存储

​ 这里的列式存储其实说的是列族存储，Hbase 是根据列族来存储数据的。列族下面可以

有非常多的列，列族在创建表的时候就必须指定。

（3）极易扩展

​ HBase的扩展性主要体现在两个方面，一个是基于上层处理能力（RegionServer）的扩展，一个是基于存储的扩展（HDFS）。

​ 通过横向添加RegionSever的机器，进行水平扩展，提升HBase上层的处理能力，提升HBase服务更多Region的能力。

（4）高并发

​ 由于目前大部分使用 Hbase 的架构，都是采用的廉价 PC，因此单个 IO 的延迟其实并不

小，一般在几十到上百 ms 之间。这里说的高并发，主要是在并发的情况下，Hbase 的单个

IO 延迟下降并不多。能获得高并发、低延迟的服务。

（5）稀疏

​ 稀疏只要是针对HBase列的灵活性，在列族中，你可以指定任意多的列，在列数据为空的情况下，是不会占用储存空间的。

3、HBase架构

​ HBase架构如图所示：

​ 从图中可以看出HBase是由Client、Zookeeper、Master、HRegionServer、HDFS等几个组件组成。

（1）Client

​ Client包含了访问HBase的接口，另外Client还维护了对应cache来加速HBase的访问，比如cache的META元数据的信息。

（2）Zookeeper

​ HBase通过Zookeeper来做master的高可用、RegionServer的监控、元数据的入口以及集群配置的维护等工作。具体工作如下：

​ 通过Zookeeper来保证集群中只有1个master在运行，如果master异常，会通过竞争机制产生新生的master提供服务。

​ 通过Zookeeper开监控RegionServer的状态，当RegionServer有异常的时候，通过回调的形式通过MasterRegionServer上下线的信息

​ 通过Zookeeper存储元数据的统一入口地址

（3）Hmaster

​ master节点的主要职责如下：

​ 为RegionServer分配Region

​ 维护整个集群的负载均衡

​ 维护集群的元数据信息

​ 发现失效的Region，并将失效的Region分配到正常RegionServer上

​ 当RegionServer失效的时候，协调对应Hlog的拆分

（4）HregionServer

​ HregionServer直接对接用户的读写请求，是真正的“干活”的节点。功能如下：

​ 管理master为器分配的Region

​ 处理来自客户端的读写请求

​ 负责和底层HDFS的交互，存储数据到HDFS

​ 负责Region变大以后的拆分

​ 负责Storefile的合并工作

（5）HDFS

​ HDFS为HBase提供最终的底层数据存储服务，同时为HBase提供高可用（Hlog存储在HDFS）的支持，具体功能概括如下：

​ 提供元数据和表数据的底层分布式存储服务

​ 数据多副本，保证的高可靠和高可用性

3、HBase中的角色

（1）HMaster

功能：

​ 1、监控RegionServer

​ 2、处理RegionServer故障转移

​ 3、处理元数据的变更

​ 4、处理region的分配或转移

​ 5、在空闲时间进行数据的负载均衡

​ 6、通过Zookeeper发布自己的位置的客户端

（2）RegionServer

功能：

​ 1、负责存储HBase的实际数据

​ 2、处理分配给它的Region

​ 3、刷新缓存到HDFS

​ 4、维护Hlog

​ 5、执行压缩

​ 6、负责处理Region分片

（3）其他组件

​ 1、Write-Ahead logs

​ HBase的修改记录，当对HBase读写数据的时候，数据不是直接写进磁盘，他会在内存中保留一段时间（时间以及数据量阈值可以设定）。但把数据保存在内存中可能有更高的概率引起数据丢失，为了解决这个问题，数据会先写在一个交Write-Ahead logfile的文件中，然后再写入内存中。所以在系统出现故障的时候，数据可以通过这个日志文件重建。

​ 2、Region

​ HBase表的分片，HBase表会根据RowKey值被切分成不同的Region存储在RegionServer中，在一个RegionServer中可以有多个不同的Region。

​ 3、Store

​ HFile存储在Store中，一个Store对应HBase表中的一个列族。

​ 4、MemStore

​ 顾名思义，就是内存存储，位于内存中，用来保存当前的数据操作，所以当数据保存在WAL中之后，Reg死哦你Server会在内存中存储键值对。

​ 5、HFile

​ 这是在磁盘上保存原始数据的实际的物理文件，是实际的存储文件。StoreFile 是以 Hfile的形式存储在 HDFS 的。