Hadoop+Spark大数据技术(微课版)曾国荪、曹洁版思维导图第四章 HBase分布式数据库

  • 第四章 HBase分布式数据库

    • 1、HBase概述

      • HBase的技术特点

        • 容量大。

          • 当关系数据库的单个表的记录在亿级时,则查询和写入的性能都会呈现指数级下降,而HBase对于单表存储百亿或更多的数据都没有性能问题。

        • 表结构不固定。

          • 可以根据需要动态的增加列,同一张表中不同的行可以有截然不同的列。

        • 列式存储。

          • 列存储指的是数据在表中是按照列存储的,可动态地增加列,并且可以单独对列进行各种操作。

        • 稀疏性。

          • 空列并不占用存储空间,表可以非常稀疏。

        • 数据类型单一。

          • HBase中的数据都是字符串。

      • HBase与传统关系数据库的区别

        • 1.数据类型方面

          • 关系数据库具有丰富的数据类型,如字符串型、数值型、日期型、二进制型等。HBase只有字符串数据类型,数据的实际类型都是交由用户自己编写程序对字符串进行解析的。

        • 2.数据操作方面

          • 关系数据库包含了丰富的操作,如插入、删除、更新、查询等,其中还涉及各式各样的函数和连接操作。HBase只有很简单的插入、查询、删除、清空等操作,表和表之间是分离的。

        • 3.存储模式方面

          • 关系数据库是基于行存储的,在关系数据库中读取数据时,需要顺序扫描每个元组,然后从中筛选出所需要查询的属性。HBase是基于列存储的,HBase将列划分为若干个列族,每个列族都由几个文件保存,不同列族的文件时分离的,它的优点是:可以降低IO开销,支持大量并发用户查询,仅需要处理所要查询的列,不需要处理与查询无关的大量数据列。

        • 4.数据维护方面

          • 在关系数据库中,更新操作会用最新的当前值去替换元组中原来的旧值。而HBase执行的更新操作不会删除数据旧的版本,而是添加一个新的版本,旧的版本仍然保留。

        • 5.可伸缩性方面

          • HBase分布式数据库就是为了实现灵活的水平扩展而开发的,所以它能够轻松增加或减少硬件的数量来实现性能的伸缩。而传统数据库通常需要增加中间层才能实现类似的功能,很难实现横向扩展,纵向扩展的空间也比较有限。

      • HBase与Hadoop中其他组件的关系

        • HBase作为Hadoop生态系统的一部分,一方面它的运行依赖于Hadoop生态系统中的其他组件;另一方面,HBase又为Hadoop生态系统的其他组件提供了强大的数据存储和处理能力。

    • 2、HBase系统架构和数据访问流程

      • 系统架构

        • HBase采用MasterlSlave架构,由HMaster服务器、HRegionServer服务器和ZooKeeper协同服务器构成。在底层,HBase将数据存储于HDFS中。HBase系统架构如图所示。

        • 1.客户端

          • 客户端包含访问HBase的接口,同时在缓存中维护着已经访问过的HRegion位置信息,用来加快后续数据访问过程。

        • 2.Zookeeper服务器

          • Zookeeper服务器用来为HBase集群提供稳定可靠的协同服务,Zookeeper存储了-ROOT-表的地址和HMaster的地址,客户端通过-ROOT-表可找到自己所需的数据。

        • 3.HMaster服务器

          • 每台HRegionServer都会和HMaster服务器通信。

          • HMaster服务器的主要任务就是告诉每个HRegionServer它主要维护哪些HRegion。

          • HMaster用于

            • 协调多个HRegionServer,

            • 侦测各个HRegionServer的状态,

            • 负责分配HRegion给HRegionServer,

            • 平衡HRegionServer之间的负载。

        • 4.HRegionServer

          • 维护HMaster分配给它的HRegion,

          • 处理用户对这些Hegion的I/O请求,

          • 还负责切分在运行过程中变得过大的HRegion。

          • 内部管理了一系列HRegion对象

            • 每个HRegion对应了表(Table)中的一个Region。

          • HBase表根据Row Key的范围被水平拆分成若干个HRegion。每个HRegion都包含了这个HRegion的start key和end key之间的所有行((row) 。

      • 数据访问流程

        • -ROOT-表

          • -ROOT-表是一张存储.META,表的表,记录了.META,表的HRegion信息。

        • .META.表

        • 假设要从Table2里面查询一条Row Key是RK10000的数据,那么应该遵循以下步骤:

          • ①从.META.表里面查询哪个HRegion包含这条数据。 ②获取管理这个HRegion的HRegionServer地址。 ③连接这个HRegionServer,查到这条数据。

    • 3、HBase数据表

      • 逻辑视图

        • 1.行键(Row Key)

        • 2.列族( Column Family)和列名(Column Name )

          • HBase表中的每个列都归属于某个列族,列族必须作为表模式(Schema)定义的一部分预先定义。在每个列族中,可以存放很多的列,而每行每列族中列的数量可以不相同。

        • 3.单元格(Cell)

          • 在HBase表中,通过行键、列族和列名确定一个“单元格”(Cell)。每个单元格中可以保存一个字段数据的多个版本,每个版本对应一个不同的时间戳

        • 4.时间戳(Time Stamp)

        • 5.区域

      • HBase数据表物理视图

        • 在HBase表的逻辑视图层面,HBase中的每个表是由许多行组成的。

        • 但在物理存储层面,它是采用基于列的存储方式。

          • 可简单认为每个Column Family对应一张存储表,表格的Row Key、Column Family .Column Name、Time Stamp唯一确定一条记录。

    • 4、HBase安装

    • 5、HBase配置

    • 6、HBase的Shell操作

      • 基本命令

        • 1.获取帮助help

        • 2.查看服务器状态status

        • 3.查看当前用户whoami

        • 4.命名空间相关命令

          • (1)列出所有命名空间命令list_namespace

          • (2)创建命名空间命令create namespace

          • (3)查看命名空间命令describe_namespace

          • (4)创建表命令create

          • (5)列出指定命名空间下的所有表命令 list_namespace_tables

          • (6〉使表无效命令disable

          • (7)删除表命令drop

          • (8)删除命名空间命令drop namespace

      • 创建表

        • 在关系数据库中,需要首先创建数据库,然后再创建表,但在HBasc数据库中,不需要创建数据库,可直接创建表。HBase创建表的语法格式如下:

        • create<表名称>,<列族名称1>[,'列族名称2'...]

        • HBase中的表至少要有一个列族,列族直接影响HBasc数据存储的物理特性。

      • 插入与更新表中的数据

        • put<表名>,<行键>,<列族名:列名>,<值>[,时间戳]

        • 例如给表student添加数据:行键是0001,列族名是baseInfo,列名是Sname,值是ding。

          • put 'student, '0001,'baseInfo:Sname','ding'

      • 查看表中的数据

        • 1.查询某行数据get

        • 2.浏览表中全部数据scan

      • 删除表中的数据

        • delete命令用于删除一个单元格数据

        • deleteall命令用于删除一行数据

        • truncate命令用于删除表中的所有数据

      • 表的启用/禁用

        • enable和disable可以启用/禁用表

        • is_enabled和is_disabled来检查表是否被禁用。

      • 修改表结构

        • 修改表结构必须先禁用表。

          • disable 'student'#禁用student表

        • 1.添加列族alter '表名',列族名'

        • 2删除列族 alter '表名',{NAME=>'列族名',METHOD => 'delete'}

          • alter 'student',{NAME=> 'teacherInfo',METHOD => 'delete"}

      • 删除HBase表

        • 第一步禁用表,第二步删除表。

        • disable 'student’#禁用student表

        • drop 'student'#删除student表

    • 7、HBase的Java API操作

  • 26
    点赞
  • 24
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
【资源说明】 毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip 毕业设计-基于Hadoop+Spark大数据金融信贷风险控系统源码.zip 【备注】 1、该资源内项目代码都经过测试运行成功,功能ok的情况下才上传的,请放心下载使用! 2、本项目适合计算机相关专业(如计科、人工智能、通信工程、自动化、电子信息等)的在校学生、老师或者企业员工下载使用,也适合小白学习进阶,当然也可作为毕设项目、课程设计、作业、项目初期立项演示等。 3、如果基础还行,也可在此代码基础上进行修改,以实现其他功能,也可直接用于毕设、课设、作业等。 欢迎下载,沟通交流,互相学习,共同进步!

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值