HADOOP学习笔记总结三： HBASE

一、HADOOP生态系统

HBase是HADOOP的生态系统，是建立在Hadoop文件系统（HDFS）之上的分布式、面向列的数据库，通过利用Hadoop的文件系统提供容错能力。

二、HBase是什么

三、HBase处理数据

虽然Hadoop是一个高容错、高延时的分布式文件系统和高并发的批处理系统，但是它不适用于提供实时计算;HBase是可以提供实时计算的分布式数据库，数据被保存在HDFS分布式文件系统上，由HDFS保证其高容错性，但是再生产环境中，HBase是如何基于hadoop提供实时性呢？ HBase上的数据是以StoreFile(HFile)二进制流的形式存储在HDFS上block块儿中；但是HDFS并不知道的HBase用于存储什么，它只把存储文件认为是二进制文件，也就是说，HBase的存储数据对于HDFS文件系统是透明的。

四、HBase与HDFS

在下面的表格中，我们对HDFS与HBase进行比较：

HDFS	HBase
HDFS适于存储大容量文件的分布式文件系统。	HBase是建立在HDFS之上的数据库。
HDFS不支持快速单独记录查找。	HBase提供在较大的表快速查找
HDFS提供了高延迟批量处理;没有批处理概念。	HBase提供了数十亿条记录低延迟访问单个行记录（随机存取）。
HDFS提供的数据只能顺序访问。	HBase内部使用哈希表和提供随机接入，并且其存储索引，可将在HDFS文件中的数据进行快速查找。

五、HBASE数据模型

HBase通过表格的模式存储数据，每个表格由列和行组成，其中，每个列又被划分为若干个列族（row family）

Hbase数据模型：

CELL单元格由rowkey、列、时间戳来决定，以字节码数组

HLog日志记录写入数据的归属信息

Hbase建议每个表列族最好 不要超过3个。

物理数据模型：

六、HBase架构

Hbase中的每张表都按照一定范围被分割成多个子表（HRegion），默认一个Hregion的某个列族超过256M就要被分割成两个（裂变），由HRegionServer来管理，而管理此HRegionServer具体管理哪些HRegion由Hmaster来分配。

具体组成部件的作用：

Client:包含访问的HBase的接口，并维护CACHE来加快对HBASE的访问。

Zookeeper：Hbase是需要依赖Zookeeper的，默认情况下HBase管理Zookeeper实例（启动或关闭Zookeeper），也可以通过配置注册到Zookeeper集群去。Master与RegionServers启动时会向Zookeeper注册。

    zookeeper起如下作用:

• 保证任何时候，集群中只有一个master
• 存储所有Region的寻址入口
• 实时监控Region server的上线和下线信息。并实时通知给master
• 存储HBase的schema和table元数据

HRegionServer:用来维护Hmaster分配给他的region，处理对这些region的io请求；负责切分正在运行过程中变的过大的region。

HRegion：HBase表在行的方向上分隔为多个Region。Region是HBase中分布式存储和负载均衡的最小单元，即不同的region可以分别在不同的Region Server上，但同一个Region是不会拆分到多个server上。Region按大小分隔，每个表一般是只有一个region，当region的某个列族达到一个阈值（默认256M）时就会分成两个新的region。

Store：每一个Region由一个或多个Store组成，至少是一个Store，HBase会把一起访问的数据放在一个Store里面，即为每个ColumnFamily建一个Store，如果有几个ColumnFamily，也就有几个Store。一个Store由一个memStore和0或者多个StoreFile组成。Store的大小被HBase用来判断是否需要切分Region。

StoreFile：memStore内存中的数据写到文件后就是StoreFile，StoreFile底层是以HFile的格式保存，以二进制形式保存在HDFS中。

Hlog：HLog记录数据的所有变更，可以用来恢复文件，一旦region server 宕机，就可以从log中进行恢复。

Hmaster:为regionserver分配region，发现失效的regionserver并重新分配其上的region,管理用户对talbe的增删改操作

官方文档：http://hbase.apache.org/book.html

五、表结构设计

参考https://blog.csdn.net/ymh198816/article/details/51244911

六、python操作HBASE

python连接操作HBASE的库有好多，在github上最多星的happyhbase，hbase-thrift这两个库，都是thrift的服务来实现对hbase的操作。所以Hadoop集成得开启THRIFT服务，给它设置后台运行（daemon模式）

happybase参考：https://blog.csdn.net/qq_34218221/article/details/80486475

hbase-thrift参考：https://blog.csdn.net/y472360651/article/details/79055875

七：安装与配置

http://abloz.com/hbase/book.html#standalone_dist

https://www.cnblogs.com/freeweb/p/5526080.html