【面试】Hbase

文章详细介绍了HBase的逻辑模型,包括命名空间、Region、RowKey、列簇和列、时间戳以及Cell的概念。同时,阐述了HBase的Master和RegionServer的角色以及Zookeeper在其中的作用。HDFS为HBase提供底层存储。文章还对比了HBase和Redis的读写性能、数据类型、数据量、部署难易度和数据可靠性,强调了两者在不同应用场景的选择。
摘要由CSDN通过智能技术生成

逻辑模型

在这里插入图片描述

1 NameSpace

命名空间,类似于关系型数据库的database概念,每个命名空间下有多个表。Hbase有两个自带的命名空间,分别是hbase和default, hbase中存放的是HBase内置的表, default表是用户默认使用的命名空间。

2 Region

类似于关系型数据库的表概念。不同的是,HBase定义表时只需要声明列族即可,不需要声明具体的列。这意味着,往HBase写入数据时,字段可以动态、按需指定。因此,和关系型数据库相比,HBase能够轻松应对字段变更的场景。

3 Row 和 RowKey

HBase表中的每行数据都由一个 RowKey和多个Column(列)组成,数据是按照RowKey的字典顺序存储的,并且查询数据时只能根据RowKey进行检索,所以RowKey的设计十分重要。这里还是个挺重要的面试常问问题。

4 列簇和列

HBase中的每个列都由 Column Family(列族)和 Column Qualifier(列限定符〉进行限定,例如info: name,info: age。建表时,只需指明列族,而列限定符无需预先定义。

5 Time Stamp

用于标识数据的不同版本(version),每条数据写入时,如果不指定时间戳,系统会自动为其加上该字段,其值为写入HBase的时间。

6 cell(具体的某个值)

由{rowkey, column Family: column Qualificr,time Stamp}唯一确定的单元。cell中的数据是没有类型的,全部是字节码形式存贮。比如上面的物理存储结构图中,‘张三’就是通过rowkey、列族、列名、时间戳唯一确定的,不用通过提交类型确定,因为不同的提交类型必然对应不同的时间戳。

架构

在这里插入图片描述

1) Master

实现类为HMaster,负责监控集群中所有的 RegionServer 实例。主要作用如下:

(1)管理元数据表格 hbase:meta,接收用户对表格创建修改删除的命令并执行

(2)监控 region 是否需要进行负载均衡,是否需要进行故障转移和 对region 的拆分。

通过启动多个后台线程监控实现上述功能:

①LoadBalancer 负载均衡器

周期性监控 region 分布在 regionServer 上面是否均衡,由参数 hbase.balancer.period 控制周期时间,默认 5 分钟。

②CatalogJanitor 元数据管理器

定期检查和清理 hbase:meta 中的数据。meta 表内容在进阶中介绍。

③MasterProcWAL master 预写日志处理器

把 master 需要执行的任务记录到预写日志 WAL 中,如果 master 宕机,让 backupMaster读取日志继续干。

2) Region Server

Region Server 实现类为 HRegionServer,主要作用如下:

(1)负责数据 cell 的处理,例如写入数据 put,查询数据 get 等

(2)拆分合并 region 的实际执行者,由 master 监控,但由 regionServer 实际执行。

3) Zookeeper

HBase 通过 Zookeeper 来做 master 的高可用、记录 RegionServer 的部署信息、并且存储有 meta 表的位置信息。

HBase 对于数据的读写操作时直接访问 Zookeeper 的,在 2.3 版本推出 Master Registry模式,客户端可以直接访问 master。使用此功能,会加大对 master 的压力,减轻对 Zookeeper的压力。

4) HDFS

HDFS 为 Hbase 提供最终的底层数据存储服务,同时为 HBase 提供高容错的支持。

HBase和Redis的区别有哪些?

  • 读写性能
    hbase采用了LSM结构,写快读慢,hbase读延时在一般在 几毫秒,redis读延时在 几十微秒,性能相差比较大. (比如 1.5WQPS TP99 1s)

  • 数据类型
    HBase和Redis都支持KV类型。但是Redis支持List、Set等更丰富的类型。

  • 数据量
    Redis支持的数据量通常受内存限制,而HBase没有这个限制,可以存储远超内存大小的数据。

  • 部署难易
    HBase部署需要依赖hadoop、zookeeper等服务,而Redis的部署非常简单。

  • 数据可靠性
    HBase采用WAL,先记录日志再写入数据,理论上不会丢失数据。而Redis采用的是异步复制数据,在failover时可能会丢失数据。

  • 应用场景
    HBase适合做大数据的持久存储,而Redis比较适合做缓存。如果数据丢失是不能容忍的,那就用只能用HBase;如果需要一个高性能的环境,而且能够容忍一定的数据丢失,那完全可以考虑使用Redis。
    HBase可以用来做数据的固化,也就是数据存储,做这个他非常合适。Redis适合做cache。可以用HBase+Redis实现数据仓库加缓存数据库,速度和扩展性都兼顾。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值