HBase工作原理

1 HBase概述

(1)HBase的定义
      HBase:Hadoop Database,是一个高可靠、高性能、面向列、可伸缩、实时读写的分布式数据库。利用HBase技术可在廉价的PC Server上搭建大规模结构化存储集群。
      ① 高可靠:数据高可靠性:HBase利用Hadoop HDFS作为其文件存储系统;服务高可靠性:HBase利用Zookeeper作为协同服务。
      ② 高性能:传统关系型数据库在上亿条数据中查询时,速度极其慢。相比之下,HBase在上亿行、上百万列、上万个版本的数据上做查询时,速度要远高于传统关系型数据库。
      ③ 面向列:与传统数据库按行存储数据的方式不同,HBase是按列存储数据。
      ④ 可伸缩:HBase的集群节点数量可多可少。
      ⑤ 实时读写:HBase的读写时间是毫秒级的。
(2)HBase与BigTable的对比
      ① HBase是Google BigTable的开源实现,与Google BigTable利用GFS作为其文件存储系统类似,HBase利用Hadoop HDFS作为其文件存储系统;
      ② Google运行MapReduce来处理BigTable中的海量数据,HBase同样利用Hadoop MapReduce来处理HBase中的海量数据;
      ③ Google BigTable利用Chubby作为协同服务,HBase利用Zookeeper作为协同服务。
(3)HBase存储什么格式的数据
      HBase主要用来存储非结构化和半结构化的松散数据(列存NoSQL数据库)。
(4)HBase与HDFS的对比
在这里插入图片描述
1)相同点:两者都具有良好的容错性和扩展性,都可以扩展到成百上千个节点。
2)HDFS适合的场景:
      ① 不支持数据随机查找;
      ② 不适合增量数据(新增的数据)处理;
      ③ 不支持数据更新。
3)HBase表的特点
      ① 大:一个表可以有数十亿行,上百万列;
      ② 无模式:每行都有一个可排序的主键和任意多的列,列可以根据需要动态的增加,同一张表中不同的行可以有截然不同的列;
      ③ 面向列:面向列(族)的存储和权限控制,列(族)独立检索;
      ④ 稀疏:对于空(null)的列,并不占用存储空间,表可以设计的非常稀疏;
      ⑤ 数据多版本:每个单元中的数据可以有多个版本,默认情况下版本号自动分配,是单元格插入时的时间戳;
      ⑥ 数据类型单一:HBase中数据都是字符串,没有类型。
(5)列存储与行存储
1)传统行式数据库
      ① 数据是按行存储的;
      ② 没有索引的查询使用大量I/O;
      ③ 建立索引和物化视图需要花费大量时间和资源;
      ④ 面向查询的需求,数据库必须被大量膨胀才能满足性能要求,即当查询某些列的时候,需要将所有的行加载,数据库会被大量膨胀,才能满足查询要求。
2)列式数据库
      ① 数据时按列存储,每一列单独存放在一块;
      ② 数据即是索引,换句话说某一列的内容都存在一块,找到这个块就可以;
      ③ 不用全行扫描,只需访问查询涉及的列,可以大量降低系统I/O&

  • 0
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,我会依次回答你的问题,不会透露你的要求。 1. MapReduce工作原理: MapReduce是一种分布式计算框架,可以处理大规模数据集,主要用于数据的批量处理。它的工作原理可以分为两个阶段:Map阶段和Reduce阶段。 在Map阶段,MapReduce将输入数据集分割成若干个小数据块,每个数据块由一个Map任务处理,Map任务对每个数据块进行处理并输出一系列键值对。这些键值对作为中间结果,会被存储在分布式文件系统中,供Reduce阶段使用。 在Reduce阶段,MapReduce将Map阶段输出的键值对根据键进行分组,每个组由一个Reduce任务进行处理。Reduce任务对每个组进行处理,并输出最终的结果。 2. Spark工作原理: Spark是一种快速、通用的大数据处理引擎,它支持多种数据处理模式,包括批处理、交互式查询、流处理等。Spark的工作原理可以分为三个阶段:数据的输入、数据的转换和数据的输出。 在数据的输入阶段,Spark从外部数据源(例如Hadoop HDFS、Apache Cassandra等)读取数据,并将数据分割成多个数据块,存储在内存中。 在数据的转换阶段,Spark通过各种转换算子(例如map、filter、reduce等)对数据进行转换处理,生成新的数据集。这些新的数据集可以被进一步转换或输出。 在数据的输出阶段,Spark将转换后的数据集写入外部数据源,或将结果返回给应用程序。 1. HBase工作原理HBase是一种列式存储数据库,它基于Hadoop分布式文件系统(HDFS)进行存储。HBase工作原理可以分为三个层次:RegionServer层、HMaster层和ZooKeeper层。 在RegionServer层,HBase将数据划分成多个区域(Region),每个区域由一个RegionServer进行管理。当数据需要写入或读取时,客户端会与对应的RegionServer进行交互。 在HMaster层,HBase将RegionServer进行管理,并负责对Region进行负载均衡和分裂处理。 在ZooKeeper层,HBase使用ZooKeeper进行协调和管理,例如协调HMaster和RegionServer之间的通信。 2. Hive工作原理: Hive是一种基于Hadoop的数据仓库工具,它可以将结构化数据映射到Hadoop HDFS上,并提供类SQL查询的接口。Hive的工作原理可以分为三个步骤:数据的导入、数据的存储和数据的查询。 在数据的导入阶段,Hive将外部数据导入到Hadoop HDFS上,并将数据进行格式化和存储,生成Hive表。 在数据的存储阶段,Hive将数据存储在Hadoop HDFS上,同时生成元数据信息,包括表结构、列信息、分区信息等。 在数据的查询阶段,Hive通过类SQL查询语言对数据进行查询和分析,生成查询结果,并将结果返回给用户。查询语言会被转化为MapReduce任务,在Hadoop集群上执行。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值