Hadoop集群的基本操作(二:HBase的基本操作)

实验

目的

要求

 

目的:

1、HBase的基本应用

要求:

  1. 完成HBase的高可用完全分布模式的安装;
  2. HBase的相关服务进程能够正常的启动;
  3. HBase控制台能够正常使用;
  4. 表创建、数据查询等数据库操作能够正常进行;

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

  1. 五台独立PC式虚拟机;
  2. 主机之间有有效的网络连接;
  3. 每台主机内存2G以上,磁盘50G。;
  4. 所有主机上安装CentOS7-64位操作系统。;
  5. 所有主机已完成网络属性配置;
  6. 所有主机已安装JDK;
  7. 已完成Zookeeper集群的安装和部署;
  8. 已完成Hadoop集群的安装配置;
  9. 已完成HBase数据库的安装;

 

软件版本:

        选用HBase的1.2.3版本,软件包名hbase-1.2.3-bin.tar.gz

 

集群规划:

          * HBase有主节点和Region节点2类服务节点,高可用完全分布模式中需要满足主节点有备用的基本要求,所以需要两台或以上的主机作为主节点,而完全分布模式中需要满足Region有备份和数据处理能够分布并行的基本要求,所以要求两台或以上的主机作为Region节点,具体规划如下:

主机名

IP地址

服务描述

Cluster-01

192.168.10.111

HBase主控节点

Cluster-02

192.168.10.112

HBase备用主控节点

Cluster-03

192.168.10.113

HBase Region服务

Cluster-04

192.168.10.114

HBase Region服务

Cluster-05

192.168.10.115

HBase Region服务

 

 

练习内容

步骤一:HBase集群的启动

注:1、该项的所有操作步骤使用专门用于集群的用户admin进行;

       2、启动HBase集群之前首先确保Zookeeper集群已被开启状态(五台虚拟主机)。Zookeeper的启动需要分别在每个计算  机的节点上手动启动。如果家目录下执行启动报错,则需要进入Zookeeper/bin目录执行启动命令;

        3、启动HBase集群之前首先确保Hadoop集群已被开启状态(五台虚拟主机)Hadoop和HBase只需要在主节点执行启动命令;

 

1、启动Zookeeper集群:

命令:

      $zkServer.sh status      //查看Zookeeper状态

      $zkServer.sh start       //启动Zookeeper

 

2、在主节点使用此命令,查看java进程信息,若有名为“NameNode”、“ResourceManager”、“DataNode”和“NodeManager”这几个进程,则表示Hadoop集群的主节点及数据节点启动成功。

命令:

     $jps                      //查看进程状态

     $start-all.sh             //启动Hadoop

     $yarn-daemon.sh start resourcemanager //备用主节点执行

主节点及备用主节点:

通信节点:

3、确定Hadoop集群已启动状态,然后再主节点使用此命令,启动HBase集群;

命令:

     $start-hbase.sh

 

4、如果每项启动出错,那么一次检查相应的配置文件和环境变量。

$source ~/.bash_profile

$echo $ZOOKEEPER_HOME

$echo $PATH

$echo $HADOOP_HOME

$echo $PATH

$echo $HBASE_HOME

$echo $PATH

5、使用命令“ssh 目标主机名或IP地址”远程登录到集群中所有Region节点主机,在Region节点使用命令“jps”查看java进程信息,若有名为“HRegionServer”的进程,则表示HBase集群的Region节点启动成功。

 

步骤二:HBase基本命令练习(DDL/DML)

  

       示例:某位学生成绩表scores

     

name

grad

course

math

art

Tom

5

97

87

Jim

4

89

80

1、在Cluster-01主机上使用admin用户进入HBase命令界面;

命令:

#su -admin

$hbase shell

 

2、新建表空间

     命令:

          > create_namespace ‘testDB’

          >list_namespace

          >drop_namespace ‘testDB’      //表空间为空才能删除

备注:于建表,和RDBMS类似,HBase也有namespace的概念,可以指定表空间创建表,也可以直接创建表,进入default表空间。HBase系统默认定义了两个缺省的namespace:hbase:系统内建表,包括namespaceImeta表default:用户建表时未指定namespace的表都创建在此

3、建立一个表和列族(默认表空间)

     命令:

          >create ‘scores’,‘grade’, ‘course’

          >list

          >describe ‘scores’

    

    练习:

         >create ‘testDB:scores’,‘grade’,‘course’

 

 4、按设计的表结构插入值

命令:  

     >put ‘scores’,’Tom’,’grade:’,’5’

     >put ‘scores’,’Tom’,’course:math’,’97’

     >put ‘scores’,’Tom’,’course:art’,’87’

     >put ‘scores’,’Jim’,’grade:’,’4’

     >put ‘scores’,’Jim’,’course:math’,’89’

     >put ‘scores’,’Jim’,’course:art’,’80’

     >put ‘scores’,’Jim’,’course:’,’90’

     >put ‘scores’,’Jim’,’course:’,’91’

代码解析:

    Hbase>put ‘t1’,’r1’,’c1’,’value’,’ts1’

t1指表名,r1指行键名,c1指列名,value指单元格值,ts1指时间戳,一般都省略掉了。

 

5、根据键值查询数据

   命令:

        >get ’scores’,’Jim’

        >get ‘scores’,’Jim’,’grade’

   HBase的shell操作,一个大概顺序就是操作关键词后跟表明,行名,列名这样的一个顺序,如果有其他条件在用花括号加上。

     练习:

          >get ’scores’,’Tom’

6、扫描所有数据

     命令:

          >scan ‘scores’

     扫描指定列:

          >scan ‘scores’,{COLUMNS => [‘grade’]}

     练习:

          >scan ‘scores’,[‘grade’]

7、统计行数

     命令:

          >count ‘scores’

 8、删除指定数据

命令:

     >get ‘scores’,’Jim’

     >delete ‘scores’,’Jim’,’course:art’

     >get ‘scores’.’Jim’

如果需要进行全表删除操作,就是用truncate命令,其实没有直接的全表删除命令,这命令也是disable,drop,create三个命令组合出来的。

 9、删除整行

命令:

     >get ‘scores’,’Jim’

     >deleteall ‘scores’,’Jim’

     >get ‘scores’,’Jim’

练习:

     >get ‘scores’,’Tom’

     >deleteall ‘scores’,’ Tom’

     >get ‘scores’,’ Tom’

 10、将整张表清空

     命令:

          >truncate ‘scores’

 

11、表的删除操作

     a)先进行disable和enable

       命令:

            >disable ‘scores’

            >enable ‘scores;

       很多操作需要先暂停表的可用性,比如删除表操作,disable_all和enable_all能够操作更多的表

     b)表的删除

       命令:

            >disable ‘scores’

            >drop ‘scores’

            >scan ‘scores’

步骤三:HBase练习作业(DDL/DML)

 

name

grad

Course

yingyu

shuxun

daolun

Yewei

1

99

92

98

Maxiao

1

94

97

99

Zhaoying

1

95

96

89

yuanyang

1

93

95

97

 

 

   命令:

>create 'scores','grade','course'
>list
>put 'scores','yewei','grade:','1'
>put 'scores','yewei','course:yingyu','99'
>put 'scores','yewei','course:shuxue','92'
>put 'scores','yewei','course:dailong','98'
>put 'scores','maxiao','grade:','1'
>put 'scores','maxiao','course:yingyu','94'
vput 'scores','maxiao','course:shuxue','97'
>put 'scores','maxiao','course:dailong','99'
>put 'scores','zhaoying','grade:','1'
>put 'scores','zhaoying','course:yingyu','95'
>put 'scores','zhaoying','course:shuxue','96'
>put 'scores','zhaoying','course:dailong','89'
>put 'scores','yuanyang','grade:','1'
>put 'scores','yuanyang','course:yingyu','93'
>put 'scores','yuanyang','course:shuxue','95'
>put 'scores','yuanyang','course:dailong','97'

  查看插入的信息:

      命令:

           >scan ‘scores’

 

出现的问题与解决方案

排错一:

出现问题:Zookeeper启动不正常;

原    因:查看Zookeeper日志,发现错误信息:

ClientCnxn$SendThread@966] - Opening socket connection to server slave1. Will not attempt to authenticate using SASL

通过百度搜索发现集群环境中环境变量为启动。

解决方案:启动每台主机的环境变量,在admin用户下使用命令

“source ~/.bash_profile”然后再查看环境变量。

$echo $ZOOKEEPER_HOME

$echo $PATH

$echo $HADOOP_HOME

$echo $PATH

$echo $HBASE_HOME

$echo $PATH

 

知识拓展

1、HBase是什么?

Apache HBase是运行在Hadoop集群上的数据库。为了实现更好的可扩展性(scalability),HBase放松了对ACID(数据库的原子性,一致性,隔离性和持久性)的要求。因此HBase并不是一个传统的关系型数据库。另外,与关系型数据库不同的是,存储在HBase中的数据也不需要遵守某种严格的集合格式,这使得HBase是用来存储结构不严格的数据的理想工具。

HBase在大数据应用的架构中应用非常广泛。但是基于其与关系型数据库迥异的设计模式,实现这些应用也与基于关系型数据库来实现非常不同。下文将会对比HBase和关系型数据库,并浅析HBase的特性。

 

2、关系型数据库与HBase的对比。

2.1、先了解一下关系型数据库的优势和缺点。

  • 关系型数据库提供了标准的数据持久性模型
  • SQL语言是事实上的数据操作标准语言
  • 关系型数据库内置了并发数据操作的管理机制
  • 关系型数据库提供全面的数据操作工具

2.2、HBase的高效,分布式,可扩展性。

由于HBase在设计上不支持关系和Join这样的概念,需要一起查询的数据就被存在一起。因此也就避免了关系型数据库的一些局限性。下图表现了HBase和关系型数据库在数据存储模型上的不同。

由于HBase将所有需要一起查询到数据存储在一起这一特性,HBase集群就自然能够根据key来组织数据。在水平分割的时候,key值的范围就可以被用来分割数据。每一个服务器存储全部数据的一个子集。同时分布式的数据还可以被同时访问。这大大增强了HBase的可扩展性。HBase实际上是Google Big Table的一个实现。Big Table是Google提出的一个用来存储大规模数据的一个分布式系统。

HBase是基于Column family data store的理念设计的:每一行根据一个row key索引。也就是我们用来查询的主键。同时每一行中有若干column family。每一个column family中有若干相关的column。如下图所示。

HBase是一种Hadoop数据库,经常被描述为一种稀疏的,分布式的,持久化的,多维有序映射,它基于行键、列键和时间戳建立索引,是一个可以随机访问的存储和检索数据的平台。HBase不限制存储的数据的种类,允许动态的、灵活的数据模型,不用SQL语言,也不强调数据之间的关系。HBase被设计成在一个服务器集群上运行,可以相应地横向扩展。

 

3、HBase的基本操作。

a)Java友好提供了全面的java客户端库;

b)HBase中所有数据都是作为原始数据,使用数组的形式存储;

c)行健是唯一标识符,类似数据库的主键;

d)表中确定一个单元的坐标是[rowkey,cloumn fanmily,column qualifier];

e)5个基本命令来访问HBase;Get(读)、Put(写)、Delete(删除)、Scan(扫描)、Increment(递增);

f)HFile是存储文件,对应列族,一个列族可以有多少HFile文件,但是一个HFile不能存多个列族的数据;

g)写的操作会写入预写式日志(WAL)和称为MemStore的内存写入缓冲区,当两者都确认写入后才认为写的动作成功完成;

h)不建议禁用WAL,禁用后RegionServer故障时会导致数据丢失;

4、使用浏览器访问https://192.168.100.111:16010查看主节点HBase

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值