一、HADOOP生态系统
HBase是HADOOP的生态系统,是建立在Hadoop文件系统(HDFS)之上的分布式、面向列的数据库,通过利用Hadoop的文件系统提供容错能力。
二、HBase是什么
三、HBase处理数据
虽然Hadoop是一个高容错、高延时的分布式文件系统和高并发的批处理系统,但是它不适用于提供实时计算;HBase是可以提供实时计算的分布式数据库,数据被保存在HDFS分布式文件系统上,由HDFS保证其高容错性,但是再生产环境中,HBase是如何基于hadoop提供实时性呢? HBase上的数据是以StoreFile(HFile)二进制流的形式存储在HDFS上block块儿中;但是HDFS并不知道的HBase用于存储什么,它只把存储文件认为是二进制文件,也就是说,HBase的存储数据对于HDFS文件系统是透明的。
四、HBase与HDFS
在下面的表格中,我们对HDFS与HBase进行比较:
HDFS | HBase |
---|---|
HDFS适于存储大容量文件的分布式文件系统。 | HBase是建立在HDFS之上的数据库。 |
HDFS不支持快速单独记录查找。 | HBase提供在较大的表快速查找 |
HDFS提供了高延迟批量处理;没有批处理概念。 | HBase提供了数十亿条记录低延迟访问单个行记录(随机存取)。 |
HDFS提供的数据只能顺序访问。 | HBase内部使用哈希表和提供随机接入,并且其存储索引,可将在HDFS文件中的数据进行快速查找。 |
五、HBASE数据模型
HBase通过表格的模式存储数据,每个表格由列和行组成,其中,每个列又被划分为若干个列族(row family)
Hbase数据模型:
CELL单元格由rowkey、列、时间戳来决定,以字节码数组
HLog日志记录写入数据的归属信息
Hbase建议每个表列族最好 不要超过3个。
物理数据模型:
六、HBase架构
Hbase中的每张表都按照一定范围被分割成多个子表(HRegion),默认一个Hregion的某个列族超过256M就要被分割成两个(裂变),由HRegionServer来管理,而管理此HRegionServer具体管理哪些HRegion由Hmaster来分配。
具体组成部件的作用:
Client:包含访问的HBase的接口,并维护CACHE来加快对HBASE的访问。
Zookeeper:Hbase是需要依赖Zookeeper的,默认情况下HBase管理Zookeeper实例(启动或关闭Zookeeper),也可以通过配置注册到Zookeeper集群去。Master与RegionServers启动时会向Zookeeper注册。
zookeeper起如下作用:
- 保证任何时候,集群中只有一个master
- 存储所有Region的寻址入口
- 实时监控Region server的上线和下线信息。并实时通知给master
- 存储HBase的schema和table元数据
HRegionServer:用来维护Hmaster分配给他的region,处理对这些region的io请求;负责切分正在运行过程中变的过大的region。
HRegion:HBase表在行的方向上分隔为多个Region。Region是HBase中分布式存储和负载均衡的最小单元,即不同的region可以分别在不同的Region Server上,但同一个Region是不会拆分到多个server上。Region按大小分隔,每个表一般是只有一个region,当region的某个列族达到一个阈值(默认256M)时就会分成两个新的region。
Store:每一个Region由一个或多个Store组成,至少是一个Store,HBase会把一起访问的数据放在一个Store里面,即为每个ColumnFamily建一个Store,如果有几个ColumnFamily,也就有几个Store。一个Store由一个memStore和0或者多个StoreFile组成。Store的大小被HBase用来判断是否需要切分Region。
StoreFile:memStore内存中的数据写到文件后就是StoreFile,StoreFile底层是以HFile的格式保存,以二进制形式保存在HDFS中。
Hlog:HLog记录数据的所有变更,可以用来恢复文件,一旦region server 宕机,就可以从log中进行恢复。
Hmaster:为regionserver分配region,发现失效的regionserver并重新分配其上的region,管理用户对talbe的增删改操作
官方文档:http://hbase.apache.org/book.html
五、表结构设计
参考https://blog.csdn.net/ymh198816/article/details/51244911
六、python操作HBASE
python连接操作HBASE的库有好多,在github上最多星的happyhbase,hbase-thrift这两个库,都是thrift的服务来实现对hbase的操作。所以Hadoop集成得开启THRIFT服务,给它设置后台运行(daemon模式)
happybase参考:https://blog.csdn.net/qq_34218221/article/details/80486475
hbase-thrift参考:https://blog.csdn.net/y472360651/article/details/79055875
七:安装与配置