Hbase常用命令

最新推荐文章于 2021-09-13 17:29:07 发布

Jingjing10523

最新推荐文章于 2021-09-13 17:29:07 发布

阅读量480

点赞数

名称命令表达式

创建表create '表名称', '列名称1','列名称2','列名称N'

添加记录put '表名称', '行名称', '列名称:', '值'

查看记录get '表名称', '行名称'

查看表中的记录总数count '表名称'

删除记录delete '表名' ,'行名称' , '列名称'

删除一张表先要屏蔽该表，才能对该表进行删除，第一步 disable '表名称' 第二步 drop '表名称'

查看某个表某个列中所有数据scan "表名称" , ['列名称:']

查看所有记录scan "表名称"

-------------------------------------------------------------------------------------------------------------------------------------

HBase是GoogleBigtable的开源实现，它利用Hadoop HDFS作为其文件存储系统，利用Hadoop MapReduce来处理HBase中的海量数据，利用Zookeeper作为协同服务。

1. 简介

HBase是一个分布式的、面向列的开源数据库,源于google的一篇论文《bigtable：一个结构化数据的分布式存储系统》。HBase是Google Bigtable的开源实现，它利用Hadoop HDFS作为其文件存储系统，利用Hadoop MapReduce来处理HBase中的海量数据，利用Zookeeper作为协同服务。

2.HBase的表结构

HBase以表的形式存储数据。表有行和列组成。列划分为若干个列族/列簇(column family)。

Row Key	column-family1		column-family2			column-family3
	column1	column2	column1	column2	column3	column1
key1
key2
key3

如上图所示，key1,key2,key3是三条记录的唯一的row key值，column-family1,column-family2,column-family3是三个列族，每个列族下又包括几列。比如column-family1这个列族下包括两列，名字是column1和column2，t1:abc,t2:gdxdf是由row key1和column-family1-column1唯一确定的一个单元cell。这个cell中有两个数据，abc和gdxdf。两个值的时间戳不一样，分别是t1,t2,hbase会返回最新时间的值给请求者。

这些名词的具体含义如下：

(1) Row Key

与nosql数据库们一样,row key是用来检索记录的主键。访问hbase table中的行，只有三种方式：

(1.1) 通过单个row key访问

(1.2) 通过row key的range

(1.3) 全表扫描

Row key行键 (Row key)可以是任意字符串(最大长度是 64KB，实际应用中长度一般为10-100bytes)，在hbase内部，row key保存为字节数组。

存储时，数据按照Row key的字典序(byte order)排序存储。设计key时，要充分排序存储这个特性，将经常一起读取的行存储放到一起。(位置相关性)

注意：

字典序对int排序的结果是1,10,100,11,12,13,14,15,16,17,18,19,2,20,21,…,9,91,92,93,94,95,96,97,98,99。要保持整形的自然序，行键必须用0作左填充。

行的一次读写是原子操作 (不论一次读写多少列)。这个设计决策能够使用户很容易的理解程序在对同一个行进行并发更新操作时的行为。

(2) 列族 columnfamily

hbase表中的每个列，都归属与某个列族。列族是表的chema的一部分(而列不是)，必须在使用表之前定义。列名都以列族作为前缀。例如courses:history ， courses:math 都属于 courses 这个列族。

访问控制、磁盘和内存的使用统计都是在列族层面进行的。实际应用中，列族上的控制权限能帮助我们管理不同类型的应用：我们允许一些应用可以添加新的基本数据、一些应用可以读取基本数据并创建继承的列族、一些应用则只允许浏览数据（甚至可能因为隐私的原因不能浏览所有数据）。

(3) 单元 Cell

HBase中通过row和columns确定的为一个存贮单元称为cell。由{row key,column( =<family> + <label>), version} 唯一确定的单元。cell中的数据是没有类型的，全部是字节码形式存贮。

(4) 时间戳timestamp

每个cell都保存着同一份数据的多个版本。版本通过时间戳来索引。时间戳的类型是 64位整型。时间戳可以由hbase(在数据写入时自动 )赋值，此时时间戳是精确到毫秒的当前系统时间。时间戳也可以由客户显式赋值。如果应用程序要避免数据版本冲突，就必须自己生成具有唯一性的时间戳。每个cell中，不同版本的数据按照时间倒序排序，即最新的数据排在最前面。

为了避免数据存在过多版本造成的的管理 (包括存贮和索引)负担，hbase提供了两种数据版本回收方式。一是保存数据的最后n个版本，二是保存最近一段时间内的版本（比如最近七天）。用户可以针对每个列族进行设置。

3.HBase shell的基本用法

hbase提供了一个shell的终端给用户交互。使用命令hbaseshell进入命令界面。通过执行 help可以看到命令的帮助信息。

以网上的一个学生成绩表的例子来演示hbase的用法。

name	grad	course
		math	art
Tom	5	97	87
Jim	4	89	80

这里grad对于表来说是一个只有它自己的列族,course对于表来说是一个有两个列的列族,这个列族由两个列组成math和art,当然我们可以根据我们的需要在course中建立更多的列族,如computer,physics等相应的列添加入course列族。

(1)建立一个表scores，有两个列族grad和courese

复制代码代码如下:

hbase(main):001:0>create ‘scores','grade', ‘course'

可以使用list命令来查看当前HBase里有哪些表。使用describe命令来查看表结构。（记得所有的表明、列名都需要加上引号）

(2)按设计的表结构插入值：

复制代码代码如下:

put ‘scores','Tom','grade:','5′

put ‘scores','Tom','course:math','97′

put ‘scores','Tom','course:art','87′

put ‘scores','Jim','grade','4′

put ‘scores','Jim','course:','89′

put ‘scores','Jim','course:','80′

这样表结构就起来了，其实比较自由，列族里边可以自由添加子列很方便。如果列族下没有子列，加不加冒号都是可以的。

put命令比较简单，只有这一种用法：

hbase> put ‘t1′,‘r1′, ‘c1′, ‘value', ts1

t1指表名，r1指行键名，c1指列名，value指单元格值。ts1指时间戳，一般都省略掉了。

(3)根据键值查询数据

get ‘scores','Jim'

get ‘scores','Jim','grade'

可能你就发现规律了，HBase的shell操作，一个大概顺序就是操作关键词后跟表名，行名，列名这样的一个顺序，如果有其他条件再用花括号加上。

get有用法如下：

hbase> get ‘t1′,‘r1′

hbase> get ‘t1′,‘r1′, {TIMERANGE => [ts1, ts2]}

hbase> get ‘t1′,‘r1′, {COLUMN => ‘c1′}

hbase> get ‘t1′,‘r1′, {COLUMN => ['c1', 'c2', 'c3']}

hbase> get ‘t1′,‘r1′, {COLUMN => ‘c1′, TIMESTAMP => ts1}

hbase> get ‘t1′,‘r1′, {COLUMN => ‘c1′, TIMERANGE => [ts1, ts2], VERSIONS => 4}

hbase> get ‘t1′,‘r1′, {COLUMN => ‘c1′, TIMESTAMP => ts1, VERSIONS => 4}

hbase> get ‘t1′,‘r1′, ‘c1′

hbase> get ‘t1′,‘r1′, ‘c1′, ‘c2′

hbase> get ‘t1′,‘r1′, ['c1', 'c2']

(4)扫描所有数据

scan ‘scores'

也可以指定一些修饰词：TIMERANGE, FILTER, LIMIT, STARTROW, STOPROW,TIMESTAMP, MAXLENGTH,or COLUMNS。没任何修饰词，就是上边例句，就会显示所有数据行。

例句如下：

复制代码代码如下:

hbase> scan‘.META.'

hbase> scan‘.META.', {COLUMNS => ‘info:regioninfo'}

hbase> scan ‘t1′,{COLUMNS => ['c1', 'c2'], LIMIT => 10, STARTROW => ‘xyz'}

hbase> scan ‘t1′,{COLUMNS => ‘c1′, TIMERANGE => [1303668804, 1303668904]}

hbase> scan ‘t1′,{FILTER => “(PrefixFilter (‘row2′) AND (QualifierFilter (>=,‘binary:xyz'))) AND (TimestampsFilter ( 123, 456))”}

hbase> scan ‘t1′,{FILTER => org.apache.hadoop.hbase.filter.ColumnPaginationFilter.new(1, 0)}

过滤器filter有两种方法指出：

a.Using a filterString – more information on this is available in the

Filter Languagedocument attached to the HBASE-4176 JIRA

b. Using the entirepackage name of the filter.

还有一个CACHE_BLOCKS修饰词，开关scan的缓存的，默认是开启的（CACHE_BLOCKS=>true），可以选择关闭（CACHE_BLOCKS=>false）。

(5)删除指定数据

复制代码代码如下:

delete ‘scores','Jim','grade'

delete ‘scores','Jim'

删除数据命令也没太多变化，只有一个：

hbase> delete‘t1′, ‘r1′, ‘c1′, ts1

另外有一个deleteall命令，可以进行整行的范围的删除操作，慎用！

如果需要进行全表删除操作，就使用truncate命令，其实没有直接的全表删除命令，这个命令也是disable，drop，create三个命令组合出来的。

(6)修改表结构

复制代码代码如下:

disable‘scores'

alter ‘scores',NAME=>'info'

enable ‘scores'

alter命令使用如下（如果无法成功的版本，需要先通用表disable）：

a、改变或添加一个列族：

hbase> alter ‘t1′,NAME => ‘f1′, VERSIONS => 5

b、删除一个列族：

复制代码代码如下:

hbase> alter ‘t1′,NAME => ‘f1′, METHOD => ‘delete'

hbase> alter ‘t1′,‘delete' => ‘f1′

c、也可以修改表属性如MAX_FILESIZE

MEMSTORE_FLUSHSIZE,READONLY,和 DEFERRED_LOG_FLUSH：

hbase> alter ‘t1′,METHOD => ‘table_att', MAX_FILESIZE => '134217728′

d、可以添加一个表协同处理器

hbase> alter ‘t1′,METHOD => ‘table_att', ‘coprocessor'=>‘hdfs:///foo.jar|com.foo.FooRegionObserver|1001|arg1=1,arg2=2′

一个表上可以配置多个协同处理器，一个序列会自动增长进行标识。加载协同处理器（可以说是过滤程序）需要符合以下规则：

[coprocessor jar filelocation] | class name | [priority] | [arguments]

e、移除coprocessor如下：

hbase> alter ‘t1′,METHOD => ‘table_att_unset', NAME => ‘MAX_FILESIZE'

hbase> alter ‘t1′,METHOD => ‘table_att_unset', NAME => ‘coprocessor$1′

f、可以一次执行多个alter命令：

hbase> alter ‘t1′,{NAME => ‘f1′}, {NAME => ‘f2′, METHOD => ‘delete'}

(7)统计行数：

复制代码代码如下:

hbase> count ‘t1′

hbase> count ‘t1′,INTERVAL => 100000

hbase> count ‘t1′,CACHE => 1000

hbase> count ‘t1′,INTERVAL => 10, CACHE => 1000

count一般会比较耗时，使用mapreduce进行统计，统计结果会缓存，默认是10行。统计间隔默认的是1000行（INTERVAL）。

(8)disable和enable 操作

很多操作需要先暂停表的可用性，比如上边说的alter操作，删除表也需要这个操作。disable_all和enable_all能够操作更多的表。

(9)表的删除

先停止表的可使用性，然后执行删除命令。

drop ‘t1′

以上是一些常用命令详解，具体的所有hbase的shell命令如下，分了几个命令群，看英文是可以看出大概用处的，详细的用法使用help “cmd” 进行了解。

复制代码代码如下:

COMMAND GROUPS:

Group name: general

Commands: status,version

Group name: ddl

Commands: alter,alter_async, alter_status, create, describe, disable, disable_all, drop,drop_all,

enable, enable_all,exists, is_disabled, is_enabled, list, show_filters

Group name: dml

Commands: count,delete, deleteall, get, get_counter, incr, put, scan, truncate

Group name: tools

Commands: assign,balance_switch, balancer, close_region, compact, flush, hlog_roll,major_compact,

move, split,unassign, zk_dump

Group name:replication

Commands: add_peer,disable_peer, enable_peer, list_peers, remove_peer, start_replication,

stop_replication

Group name: security

Commands: grant,revoke, user_permission

4. hbase shell脚本

既然是shell命令，当然也可以把所有的hbase shell命令写入到一个文件内，想linux shell脚本程序那样去顺序的执行所有命令。如同写linux shell，把所有hbase shell命令书写在一个文件内，然后执行如下命令即可：

复制代码代码如下:

$ hbase shelltest.hbaseshell

-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

名称	命令表达式
创建表	create '表名称', '列名称1','列名称2','列名称N'
添加记录	put '表名称', '行名称', '列名称:', '值'
查看记录	get '表名称', '行名称'
查看表中的记录总数	count '表名称'
删除记录	delete '表名' ,'行名称' , '列名称'
删除一张表	先要屏蔽该表，才能对该表进行删除，第一步 disable '表名称' 第二步 drop '表名称'
查看所有记录	scan "表名称"
查看某个表某个列中所有数据	scan "表名称" , ['列名称:']
更新记录	就是重写一遍进行覆盖

下面是一些常见命令的说明，在hbaseshell中输入help的帮助信息，在本文中，我们先介绍前3个，后面2个，将在下一篇博文中介绍。

COMMAND GROUPS:

Group name:general

Commands:status, version

Group name: ddl

Commands: alter,create, describe, disable,drop, enable, exists, is_disabled, is_enabled, list

Group name: dml

Commands: count,delete, deleteall, get,get_counter, incr, put, scan, truncate

Group name:tools

Commands:assign, balance_switch, balancer,close_region, compact, flush, major_compact,move, split, unassign, zk_dump

Group name:replication

Commands:add_peer, disable_peer,enable_peer, remove_peer, start_replication,stop_replication

一、一般操作

1.查询服务器状态

hbase(main):024:0>status

3 servers, 0dead,1.0000 average load

2.查询hive版本

hbase(main):025:0>version

0.90.4,r1150278,Sun Jul 24 15:53:29 PDT 2011

二、DDL操作

1.创建一个表

hbase(main):011:0>create 'member','member_id','address','info'

0 row(s) in1.2210seconds

2.获得表的描述

hbase(main):012:0>list

TABLE

member

1 row(s) in0.0160seconds

hbase(main):006:0>describe 'member'

DESCRIPTIONENABLED

{NAME =>'member', FAMILIES => [{NAME=> 'address', BLOOMFILTER => 'NONE',REPLICATION_SCOPE => '0', true

VERSIONS =>'3', COMPRESSION => 'NONE',TTL => '2147483647', BLOCKSIZE => '65536',IN_MEMORY => 'fa

lse', BLOCKCACHE=> 'true'}, {NAME =>'info', BLOOMFILTER => 'NONE', REPLICATION_SCOPE=> '0', VERSI

ONS => '3',COMPRESSION => 'NONE', TTL=> '2147483647', BLOCKSIZE => '65536',IN_MEMORY => 'false',

BLOCKCACHE =>'true'}]}

1 row(s) in0.0230seconds

3.删除一个列族，alter，disable，enable

我们之前建了3个列族，但是发现member_id这个列族是多余的，因为他就是主键，所以我们要将其删除。

hbase(main):003:0>alter'member',{NAME=>'member_id',METHOD=>'delete'}

ERROR: Tablememberis enabled. Disable it first before altering.

报错，删除列族的时候必须先将表给disable掉。

hbase(main):004:0>disable 'member'

0 row(s) in2.0390seconds

hbase(main):005:0>alter'member',{NAME=>'member_id',METHOD=>'delete'}

0 row(s) in0.0560seconds

hbase(main):006:0>describe 'member'

DESCRIPTIONENABLED

{NAME =>'member', FAMILIES => [{NAME=> 'address', BLOOMFILTER => 'NONE',REPLICATION_SCOPE => '0',false

VERSIONS =>'3', COMPRESSION => 'NONE',TTL => '2147483647', BLOCKSIZE => '65536',IN_MEMORY => 'fa

lse', BLOCKCACHE=> 'true'}, {NAME =>'info', BLOOMFILTER => 'NONE', REPLICATION_SCOPE=> '0', VERSI

ONS => '3',COMPRESSION => 'NONE', TTL=> '2147483647', BLOCKSIZE => '65536',IN_MEMORY => 'false',

BLOCKCACHE =>'true'}]}

1 row(s) in0.0230seconds

该列族已经删除，我们继续将表enable

hbase(main):008:0>enable 'member'

0 row(s) in2.0420seconds

4.列出所有的表

hbase(main):028:0>list

TABLE

member

temp_table

2 row(s) in0.0150seconds

5.drop一个表

hbase(main):029:0>disable 'temp_table'

0 row(s) in2.0590seconds

hbase(main):030:0>drop 'temp_table'

0 row(s) in1.1070seconds

6.查询表是否存在

hbase(main):021:0>exists 'member'

Table memberdoesexist

0 row(s) in0.1610seconds

7.判断表是否enable

hbase(main):034:0>is_enabled 'member'

true

0 row(s) in0.0110seconds

8.判断表是否disable

hbase(main):032:0>is_disabled 'member'

false

0 row(s) in0.0110seconds

三、DML操作

1.插入几条记录

put'member','scutshuxue','info:age','24'

put'member','scutshuxue','info:birthday','1987-06-17'

put'member','scutshuxue','info:company','alibaba'

put'member','scutshuxue','address:contry','china'

put'member','scutshuxue','address:province','zhejiang'

put'member','scutshuxue','address:city','hangzhou'

put'member','xiaofeng','info:birthday','1987-4-17'

put'member','xiaofeng','info:favorite','movie'

put'member','xiaofeng','info:company','alibaba'

put'member','xiaofeng','address:contry','china'

put'member','xiaofeng','address:province','guangdong'

put'member','xiaofeng','address:city','jieyang'

put'member','xiaofeng','address:town','xianqiao'

2.获取一条数据

获取一个id的所有数据

hbase(main):001:0>get 'member','scutshuxue'

COLUMN CELL

address:citytimestamp=1321586240244, value=hangzhou

address:contrytimestamp=1321586239126, value=china

address:provincetimestamp=1321586239197, value=zhejiang

info:agetimestamp=1321586238965, value=24

info:birthdaytimestamp=1321586239015, value=1987-06-17

info:companytimestamp=1321586239071, value=alibaba

6 row(s) in0.4720seconds

获取一个id，一个列族的所有数据

hbase(main):002:0>get 'member','scutshuxue','info'

COLUMN CELL

info:agetimestamp=1321586238965, value=24

info:birthdaytimestamp=1321586239015, value=1987-06-17

info:companytimestamp=1321586239071, value=alibaba

3 row(s) in0.0210seconds

获取一个id，一个列族中一个列的所有数据

hbase(main):002:0>get 'member','scutshuxue','info:age'

COLUMN CELL

info:agetimestamp=1321586238965, value=24

1 row(s) in0.0320seconds

6.更新一条记录

将scutshuxue的年龄改成99

hbase(main):004:0>put 'member','scutshuxue','info:age' ,'99'

0 row(s) in0.0210seconds

hbase(main):005:0>get 'member','scutshuxue','info:age'

COLUMN CELL

info:agetimestamp=1321586571843, value=99

1 row(s) in0.0180seconds

3.通过timestamp来获取两个版本的数据

hbase(main):010:0>get'member','scutshuxue',{COLUMN=>'info:age',TIMESTAMP=>1321586238965}

COLUMN CELL

info:agetimestamp=1321586238965, value=24

1 row(s) in0.0140seconds

hbase(main):011:0>get'member','scutshuxue',{COLUMN=>'info:age',TIMESTAMP=>1321586571843}

COLUMN CELL

info:agetimestamp=1321586571843, value=99

1 row(s) in0.0180seconds

4.全表扫描：

hbase(main):013:0>scan 'member'

ROW COLUMN+CELL

scutshuxuecolumn=address:city, timestamp=1321586240244, value=hangzhou

scutshuxuecolumn=address:contry, timestamp=1321586239126, value=china

scutshuxuecolumn=address:province, timestamp=1321586239197, value=zhejiang

scutshuxuecolumn=info:age,timestamp=1321586571843, value=99

scutshuxuecolumn=info:birthday, timestamp=1321586239015, value=1987-06-17

scutshuxuecolumn=info:company, timestamp=1321586239071, value=alibaba

tempcolumn=info:age, timestamp=1321589609775, value=59

xiaofengcolumn=address:city, timestamp=1321586248400, value=jieyang

xiaofengcolumn=address:contry, timestamp=1321586248316, value=china

xiaofengcolumn=address:province, timestamp=1321586248355, value=guangdong

xiaofengcolumn=address:town, timestamp=1321586249564, value=xianqiao

xiaofengcolumn=info:birthday, timestamp=1321586248202, value=1987-4-17

xiaofengcolumn=info:company, timestamp=1321586248277, value=alibaba

xiaofengcolumn=info:favorite, timestamp=1321586248241, value=movie

3 row(s) in0.0570seconds

5.删除id为temp的值的‘info:age’字段

hbase(main):016:0>delete'member','temp','info:age'

0 row(s) in0.0150seconds

hbase(main):018:0>get'member','temp'

COLUMN CELL

0 row(s) in0.0150seconds

6.删除整行

hbase(main):001:0>deleteall 'member','xiaofeng'

0 row(s) in0.3990seconds

7.查询表中有多少行：

hbase(main):019:0>count 'member'

2 row(s) in0.0160seconds

8.给‘xiaofeng’这个id增加'info:age'字段，并使用counter实现递增

hbase(main):057:0*incr'member','xiaofeng','info:age'

COUNTER VALUE =1

hbase(main):058:0>get'member','xiaofeng','info:age'

COLUMN CELL

info:agetimestamp=1321590997648, value=\x00\x00\x00\x00\x00\x00\x00\x01

1 row(s) in0.0140seconds

hbase(main):059:0>incr'member','xiaofeng','info:age'

COUNTER VALUE =2

hbase(main):060:0>get'member','xiaofeng','info:age'

COLUMN CELL

info:agetimestamp=1321591025110, value=\x00\x00\x00\x00\x00\x00\x00\x02

1 row(s) in0.0160seconds

获取当前count的值

hbase(main):069:0>get_counter'member','xiaofeng','info:age'

COUNTER VALUE =2

9.将整张表清空：

hbase(main):035:0>truncate 'member'

Truncating'member'table (it may take a while):

- Disablingtable...

- Droppingtable...

- Creatingtable...

0 row(s) in4.3430seconds

可以看出，hbase是先将掉disable掉，然后drop掉后重建表来实现truncate的功能的。

新增列和删除列

disable'INVOICE_INFO'

alter'INVOICE_INFO',{NAME =>'ORDER_NO', VERSIONS => 1}

enable 'INVOICE_INFO'

disable'INVOICE_INFO'

alter'INVOICE_INFO',{NAME=>'ORDER_NO',METHOD=>'delete'}

enable 'INVOICE_INFO'

Jingjing10523

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
Hbase常用命令

名称命令表达式创建表create '表名称', '列名称1','列名称2','列名称N' 添加记录put '表名称', '行名称', '列名称:', '值' 查看记录get '表名称', '行名称' 查看表中的记录总数count '表名称' 删除记录delete '表名' ,'行名称' , '列名称' 删除一张表先要屏蔽该表
复制链接

扫一扫