初识HBase: 简介与数据模型
HBase 简介
HBase是什么
HBase 基于 Google的BigTable论⽂⽽来,是⼀个分布式海量列式⾮关系型数据库系统,可以提供超⼤规模数据集的实时随机读写。
接下来,通过⼀个场景初步认识HBase列存储
如下MySQL存储机制,空值字段浪费存储空间
如果是列存储的话,可以这么玩…
rowkey:1 name:⼩明
rowkey:1 age:23
rowkey:1 job:学⽣
rowkey:2 name :⼩红
rowkey:2 salary:10w
rowkey:2 job:律师
…
列存储的优点:
1)减少存储空间占⽤。
2)⽀持好多列
HBase的特点
- 海量存储: 底层基于HDFS存储海量数据
- 列式存储:HBase表的数据是基于列族进⾏存储的,⼀个列族包含若⼲列
- 极易扩展:底层依赖HDFS,当磁盘空间不⾜的时候,只需要动态增加DataNode服务节点就可以
- ⾼并发:⽀持⾼并发的读写请求
- 稀疏:稀疏主要是针对HBase列的灵活性,在列族中,你可以指定任意多的列,在列数据为空的情况下,是不会占⽤存储空间的。
- 数据的多版本:HBase表中的数据可以有多个版本值,默认情况下是根据版本号去区分,版本号就是插⼊数据的时间戳
- 数据类型单⼀:所有的数据在HBase中是以字节数组进⾏存储
HBase的应用
- 交通⽅⾯:船舶GPS信息,每天有上千万左右的数据存储。
- ⾦融⽅⾯:消费信息、贷款信息、信⽤卡还款信息等
- 电商⽅⾯:电商⽹站的交易信息、物流信息、游览信息等
- 电信⽅⾯:通话信息
总结:HBase适合海量明细数据的存储,并且后期需要有很好的查询性能(单表超千万、上亿,且并发要求⾼)
HBase数据模型
HBase的数据也是以表(有⾏有列)的形式存储
HBase逻辑架构
HBase物理存储
- Table。 类似于关系型数据库的表概念。不同的是,HBase定义表时只需要声明列族即可,数据属性,⽐如超时时间(TTL),压缩算法(COMPRESSION)等,都在列族的定义中定义,不需要声明具体的列。
- Row(⼀⾏逻辑数据)**HBase表中的每⾏数据都由⼀个RowKey和多个Column(列)组成。⼀个⾏包含了多个列,这些列通过列族来分类,⾏中的数据所属列族只能从该表所定义的列族中选取,不能定义这个表中不存在的列族,否则报错NoSuchColumnFamilyException。
- RowKey(每⾏数据主键) Rowkey由⽤户指定的⼀串不重复的字符串定义,是⼀⾏的唯⼀标识!数据是按照RowKey的字典顺序存储的,并且查询数据时只能根据RowKey进⾏检索,所以RowKey的设计⼗分重要。如果使⽤了之前已经定义的RowKey,那么会将之前的数据更新掉!
- ColumnFamily(列族) 列族是多个列的集合。⼀个列族可以动态地灵活定义多个列。表的相关属性⼤部分都定义在列族上,同⼀个表⾥的不同列族可以有完全不同的属性配置,但是同⼀个列族内的所有列都会有相同的属性。列族存在的意义是HBase会把相同列族的列尽量放在同⼀台机器上,所以说,如果想让某⼏个列被放到⼀起,你就给他们定义相同的列族。
- ColumnQualififier(列) Hbase中的列是可以随意定义的,⼀个⾏中的列不限名字、不限数量,只限定列族。因此列必须依赖于列族存在!列的名称前必须带着其所属的列族!例如info:name,info:age
- TimeStamp(时间戳–》版本) ⽤于标识数据的不同版本(version)。时间戳默认由系统指定,也可以由⽤户显式指定。在读取单元格的数据时,版本号可以省略,如果不指定,Hbase默认会获取最后⼀个版本的数据返回!
- Cell ⼀个列中可以存储多个版本的数据。⽽每个版本就称为⼀个单元格(Cell)。
- Region(表的分区) Region由⼀个表的若⼲⾏组成!在Region中⾏的排序按照⾏键(rowkey)字典排序。Region不能跨RegionSever,且当数据量⼤的时候,HBase会拆分Region。
HBase整体架构
各部分的功能作用:
Zookeeper
- 实现了HMaster的⾼可⽤。保存了HBase的元数据信息,是所有HBase表的寻址⼊⼝
- 对HMaster和HRegionServer实现了监控
HMaster(Master)
- 为HRegionServer分配Region。维护整个集群的负载均衡
- 维护集群的元数据信息
- 发现失效的Region,并将失效的Region分配到正常的HRegionServer上
HRegionServer(RegionServer)
- 负责管理Region
- 接受客户端的读写数据请求
- 切分在运⾏过程中变⼤的Region
Region
- 每个HRegion由多个Store构成
- 每个Store保存⼀个列族(Columns Family),表有⼏个列族,则有⼏个Store
- 每个Store由⼀个MemStore和多个StoreFile组成,MemStore是Store在内存中的内容,写到⽂件后就是StoreFile。StoreFile底层是以HFile的格式保存。