HBase回顾二：安装部署、数据结构、shell操作

HBase回顾二：安装部署、数据结构、shell操作

HBase安装部署

通过在前面的回顾，我们直到HBase是基于Zookeeper和HDFS来工作的，所以在安装部署HBase之前，要先确保Zookeeper和Hadoop已经安装并部署成功。

Zookeeper安装

Hadoop安装部署

然后启动Hadoop和Zookeeper

单点启动Zookeeper：

先cd到Zookeeper主目录下:

[atguigu@hadoop102 ~]$ cd /opt/module/zookeeper-3.4.10/

在每个节点启动Zookeeper

[atguigu@hadoop102 zookeeper-3.4.10]$ bin/zkServer.sh start
[atguigu@hadoop103 zookeeper-3.4.10]$ bin/zkServer.sh start
[atguigu@hadoop104 zookeeper-3.4.10]$ bin/zkServer.sh start

启动Hadoop:

[atguigu@hadoop102 hadoop-2.7.2]$ sbin/start-dfs.sh
[atguigu@hadoop103 hadoop-2.7.2]$ sbin/start-yarn.sh

在我的集群上namenode在hadoop102,ResourceManager在hadoop103

这里使用一个脚本快速完成群起：

#!/bin/bash
echo "================     开始启动所有节点服务            ==========="
echo "================     正在启动Zookeeper               ==========="
for i in atguigu@hadoop102 atguigu@hadoop103 atguigu@hadoop104
do
        ssh $i '/opt/module/zookeeper-3.4.10/bin/zkServer.sh start'
done
echo "================     正在启动HDFS                    ==========="
ssh atguigu@hadoop102 '/opt/module/hadoop-2.7.2/sbin/start-dfs.sh'
echo "================     正在启动YARN                    ==========="
ssh atguigu@hadoop103 '/opt/module/hadoop-2.7.2/sbin/start-yarn.sh'
echo "================     正在开启JobHistoryServer        ==========="
ssh atguigu@hadoop104 '/opt/module/hadoop-2.7.2/sbin/mr-jobhistory-daemon.sh start historyserver'

启动完成后，通过jps查看集群内启动情况，这里也使用一个脚本来查看

#!/bin/bash
for i in atguigu@hadoop102 atguigu@hadoop103 atguigu@hadoop104
do
        echo "================           $i             ================"
        ssh $i '/opt/module/jdk1.8.0_144/bin/jps'
done

启动成功，然后开始安装hbase

下载hbase-1.3.1-bin.tar.gz并解压到指定目录

[atguigu@hadoop102 software]$ tar -zxvf hbase-1.3.1-bin.tar.gz -C /opt/module

cd到/opt/module,然后重命名hbase-1.3.1为hbase

[atguigu@hadoop102 software]$ mv hbase-1.3.1 hbase

进入hbase目录的conf子目录，然后vi编辑相关配置文件

1）hbase-env.sh修改内容：

export JAVA_HOME=/opt/module/jdk1.8.0_144
export HBASE_MANAGES_ZK=false

2）hbase-site.xml修改内容：

<configuration>
    <!-- 指定hbase在hdfs的数据存放位置 -->
	<property>     
		<name>hbase.rootdir</name>     
		<value>hdfs://hadoop102:9000/hbase</value>   
	</property>
	<!-- 开启分布式存储 -->
	<property>   
		<name>hbase.cluster.distributed</name>
		<value>true</value>
	</property>

   <!-- 0.98后的新变动，之前版本没有.port,默认端口为60000 -->
	<property>
		<name>hbase.master.port</name>
		<value>16000</value>
	</property>
	<!-- zookeeper托管 -->
	<property>   
		<name>hbase.zookeeper.quorum</name>
	     <value>hadoop102:2181,hadoop103:2181,hadoop104:2181</value>
	</property>
	
	<property>   
		<name>hbase.zookeeper.property.dataDir</name>
	     <value>/opt/module/zookeeper-3.4.10/zkData</value>
	</property>
</configuration>

3）regionservers：

<!-- 配置regionservers 所在节点-->
hadoop102 
hadoop103
hadoop104

4）软连接hadoop配置文件到hbase：

[atguigu@hadoop102 module]$ ln -s /opt/module/hadoop-2.7.2/etc/hadoop/core-site.xml 
/opt/module/hbase/conf/core-site.xml
[atguigu@hadoop102 module]$ ln -s /opt/module/hadoop-2.7.2/etc/hadoop/hdfs-site.xml 
/opt/module/hbase/conf/hdfs-site.xml

最后同步集群

[atguigu@hadoop102 module]$ xsync hbase/ 

同步脚本如下：

#!/bin/bash 

#1 获取输入参数个数，如果没有参数，直接退出 
pcount=$#
if ((pcount==0)); then
echo no args;
exit;
fi

#2 获取文件名称 
p1=$1 fname=`basename $p1`
echo fname=$fname

#3 获取上级目录到绝对路径 
pdir=`cd -P $(dirname $p1); pwd`
echo pdir=$pdir

#4 获取当前用户名称 
user=`whoami`

#5 循环,注意修改100 和 103的区间，根据自己的集群机器名来修改 
for((host=102; host<105; host++)); do
        echo ------------------- hadoop$host -------------
        rsync -rvl $pdir/$fname $user@hadoop$host:$pdir
done

群启HBase

[atguigu@hadoop102 ~]$ cd /opt/module/hbase/
[atguigu@hadoop102 hbase]$ bin/start-hbase.sh 

查看是否启动成功

HBase数据结构

RowKey（行键）
与nosql数据库们一样,RowKey是用来检索记录的主键。访问HBASE table中的行，只有三种方式：

1. 通过单个RowKey访问

2. 通过RowKey的range（正则）

3. 全表扫描

RowKey行键 (RowKey)可以是任意字符串(最大长度是64KB，实际应用中长度一般为 10-100bytes)，在HBASE内部，RowKey保存为字节数组。存储时，数据按照RowKey的字典序(byte order)排序存储。设计RowKey时，要充分排序存储这个特性，将经常一起读取的行存储放到一起。(位置相关性)

Column Family(列族)
列族：HBASE表中的每个列，都归属于某个列族。列族是表的schema的一部 分(而列不是)，必须在使用表之前定义。列名都以列族作为前缀。例如 courses:history，courses:math都属于courses 这个列族。

Cell（单元格）
由{rowkey, column Family:columu, version} 唯一确定的单元。cell中的数据是没有类型的，全部是字节码形式存贮。
关键字：无类型、字节码

Time Stamp（时间戳）
HBASE 中通过rowkey和columns确定的为一个存贮单元称为cell。每个 cell都保存 着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64位整型。时间戳可以由HBASE(在数据写入时自动 )赋值，此时时间戳是精确到毫秒 的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版 本冲突，就必须自己生成具有唯一性的时间戳。每个 cell中，不同版本的数据按照时间倒序排序，即最新的数据排在最前面。
为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担，HBASE提供 了两种数据版本回收方式。一是保存数据的最后n个版本，二是保存最近一段 时间内的版本（比如最近七天）。用户可以针对每个列族进行设置。

namespace(命名空间)
命名空间的结构:

1. Table：表，所有的表都是命名空间的成员，即表必属于某个命名空间，如果没有指定，则在default默认的命名空间中。
2. RegionServer group：一个命名空间包含了默认的RegionServer Group。
3. Permission：权限，命名空间能够让我们来定义访问控制列表ACL（Access Control List）。例如，创建表，读取表，删除，更新等等操作。
4. Quota：限额，可以强制一个命名空间可包含的region的数量。

直观理解命名空间类似于Mysql的分库，每个库下有多个表

HBase shell操作

进入hbase客户端命令行

[atguigu@hadoop102 hbase]$ bin/hbase shell

查看帮助命令

hbase(main):001:0> help

查看当前数据库中有哪些表

hbase(main):002:0> list

对表的操作

1．创建表

创建表时需要指定表名和列族(因为hbase是面向列存储的)

hbase(main):002:0> create 'student','info'

2．插入数据到表

插入数据其实就是往hbase维护的数据空间中Put数据

前面数据结构提到一个cell是由{rowkey, column Family:columu, version} 来标识的

所以需要指定表名，行键(RowKey)，列族及列族下的指定列用:分隔(info:sex)，最后是该cell对应的数据

hbase(main):003:0> put 'student','1001','info:sex','male'

hbase(main):004:0> put 'student','1001','info:age','18'

hbase(main):005:0> put 'student','1002','info:name','Janna'

hbase(main):006:0> put 'student','1002','info:sex','female'

hbase(main):007:0> put 'student','1002','info:age','20'

3．扫描查看表数据

scan tablename相当于select * from tablename

{STARTROW => '1001', STOPROW => '1003'}相当于where id >= 1001 and id<1003,注意左闭右开

hbase(main):008:0> scan 'student'

hbase(main):009:0> scan 'student',{STARTROW => '1001', STOPROW => '1002'}

hbase(main):010:0> scan 'student',{STARTROW => '1001'}

4．查看表结构

describe tablename

hbase(main):011:0> describe ‘student’ 

5．更新指定字段的数据

更新操作本质上还是往表中添加数据，只是时间戳不同，hbase会保证你指定VERSIONS数量的数据在同一个单元格

hbase(main):012:0> put 'student','1001','info:name','Nick'

hbase(main):013:0> put 'student','1001','info:age','100'

6．查看“指定行”或“指定列族:列”的数据

hbase(main):014:0> get 'student','1001'

hbase(main):015:0> get 'student','1001','info:name'

7．统计表数据行数

hbase(main):021:0> count 'student'

8．删除数据

删除某rowkey的全部数据：

hbase(main):016:0> deleteall 'student','1001'

删除某rowkey的某一列数据：

hbase(main):017:0> delete 'student','1002','info:sex'

9．清空表数据

hbase(main):018:0> truncate 'student'

提示：清空表的操作顺序为先disable，然后再truncate。

10．删除表

首先需要先让该表为disable状态：

hbase(main):019:0> disable 'student'

然后才能drop这个表：

hbase(main):020:0> drop 'student'

提示：如果直接drop表，会报错：ERROR: Table student is enabled. Disable it first.

11．变更表信息

将info列族中的数据存放3个版本：

hbase(main):022:0> alter 'student',{NAME=>'info',VERSIONS=>3}

hbase(main):022:0> get 'student','1001',{COLUMN=>'info:name',VERSIONS=>3}