hbase 删除列族下的某一列_HBase

本文详细介绍了HBase的逻辑和物理存储结构,包括命名空间、Region、RowKey、Column以及Timestamp等概念。深入讨论了HBase的写入流程、MemStore Flush、Read流程、StoreFile Compaction和Region Split等核心机制。此外,还涵盖了HBase的Master、RegionServer、Zookeeper和HDFS的角色。最后,探讨了HBase的优化策略,包括RowKey设计、预分区、内存优化和基础设置调整等。
摘要由CSDN通过智能技术生成

HBase 是一种分布式、可扩展、支持海量数据存储的NoSQL 数据库。

逻辑结构

6860d84433b03a85e857afbd5618ca04.png

物理存储结构

1782ad514c59b4065e064138f0d46be6.png

数据模型

逻辑上,HBase的数据模型同关系型数据库很类似,数据存储在一张表中,有行有列。HBase的底层物理存储结构(K-V)。

Name Space

命名空间,类似于关系型数据库的 DatabBase 概念,每个命名空间下有多个表。HBase 有两个自带的命名空间,分别是 hbase和 default,hbase 中存放的是 HBase 内置的表,default 表是用户默认使用的命名空间。

Region

类似于关系型数据库的表概念。不同的是,HBase定义表时只需要声明列族即可,不需要声明具体的列。这意味着,往HBase 写入数据时,字段可以动态、按需指定。和关系型数据库相比,HBase 能够轻松应对字段变更的场景。

Row

HBase 表中的每行数据都由一个 RowKey 和多个 Column(列)组成,数据是按照 RowKey 的字典顺序存储的,并且查询数据时只能根据 RowKey 进行检索,所以 RowKey 的设计十分重要。

Column

HBase中的每个列都由 Column Family(列族)和 Column Qualifier(列限定符)进行限定,例如 info:name,info:age。建表时,只需指明列族,而列限定符无需预先定义。

TimeStamp

用于标识数据的不同版本(version),每条数据写入时,如果不指定时间戳,系统会自动为其加上该字段,其值为写入HBase 的时间。

Cell

由{rowkey, column Family:columnQualifier, time Stamp} 唯一确定的单元。cell 中的数据是没有类型的,全部是字节码形式存贮。

e9cfe5676d9fe9244122577b255fd928.png

Region Server

RegionServer 为 Region 的管理者,其实现类为 HRegionServer,主要作用如下: 对于数据的操作:get, put, delete;

对于 Region的操作:splitRegion、compactRegion。

Master

Master是所有 Region Server 的管理者,其实现类为 HMaster,主要作用如下:

对于表的操作:create,delete, alter

对于RegionServer的操作:分配regions 到每个RegionServer,监控每个RegionServer的状态,负载均衡和故障转移。

Zookeeper

HBase 通过 Zookeeper来做 Master 的高可用、RegionServer 的监控、元数据的入口以及集群配置的维护等工作。

HDFS

HDFS 为 HBase 提供最终的底层数据存储服务,同时为 HBase 提供高可用支持。

HBase Shell 操作
help  查看当前数据库中有哪些表list建表create 'student','info'插入数据到表put 'student','1001','info:sex','male'put 'student','1001','info:age','18'扫描表scan 'student'scan 'student',{STARTROW => '1001', STOPROW  => '1001'}scan 'student',{STARTROW => '1001'}查看表结构describe 'student'更新指定字段的数据put 'student','1001','info:name','Nick' 查看指定行或指定列族:列的数据get 'student','1001' get 'student','1001','info:name'统计表数据行数count 'student'删除某 rowkey 的全部数据deleteall 'student','1001'删除某 rowkey 的某一列数据delete 'student','1002','info:sex'清空表数据truncate 'student'删除表disable 'student'drop 'student'变更表信息,将 info 列族中的数据存放 3 个版本alter 'student',{
    NAME=>'info',VERSIONS=>3} get 'student','1001',{
    COLUMN=>'info:name',VERSIONS=>3}
架构原理

0b09654901eecb029966364ca62ad25c.png

StoreFile

保存实际数据的物理文件,StoreFile 以 HFile 的形式存储在 HDFS 上。每个 Store 会有一个或多个StoreFile(HFile),数据在每个 StoreFile中都是有序的。

MemStore

写缓存,由于HFile 中的数据要求是有序的,所以数据是先存储在 MemStore 中,排好序后,等到达刷写时机才会刷写到HFile,每次刷写都会形成一个新的 HFile。

WAL

由于数据要经MemStore 排序后才能刷写到 HFile,但把数据保存在内存中会有很高的概率导致数据丢失,为了解决这个问题,数据会先写在一个叫做Write-Ahead logfile 的文件中,再写入MemStore 中。所以在系统出现故障的时候,数据可以通过这个日志文件重建。

写流程

6c46e3495f63f1e14b74d634166e66eb.png

  1. Client 先访问  zookeeper,获取  hbase:meta 表位于哪个Region Server。

  2. 访问对应的 Region Server,获取 hbase:me

  • 3
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值