Hbase的访问方式
1、Native Java API:最常规和高效的访问方式;
2、HBase Shell:HBase的命令行工具,最简单的接口,适合HBase管理使用;
3、Thrift Gateway:利用Thrift序列化技术,支持C++,PHP,Python等多种语言,适合其他异构系统在线访问HBase表数据;
4、REST Gateway:支持REST 风格的Http API访问HBase, 解除了语言限制;
5、MapReduce:直接使用MapReduce作业处理Hbase数据;
6、使用Pig/hive处理Hbase数据。
Hbase shell基本用法
hbase shell 的help对语法的介绍很全,搞明白help上的实例,对hbase shell的操作就很熟练了。
hbase shell 的操作分为 10类,本文只介绍前4类,分别是:
Group name | commands |
---|---|
general | status, table_help, version, whoami |
ddl | alter, alter_async, alter_status, create, describe, disable, disable_all, drop, drop_all, enable, enable_all, exists, get_table, is_disabled, is_enabled, list, show_filters |
namespace | alter_namespace, create_namespace, describe_namespace, drop_namespace, list_namespace, list_namespace_tables |
dml | append, count, delete, deleteall, get, get_counter, incr, put, scan, truncate, truncate_preserve |
tools | assign, balance_switch, balancer, catalogjanitor_enabled, catalogjanitor_run, catalogjanitor_switch, close_region, compact, compact_rs, flush, major_compact, merge_region, move, split, trace, unassign, wal_roll, zk_dump |
replication | add_peer, append_peer_tableCFs, disable_peer, disable_table_replication, enable_peer, enable_table_replication, list_peers, list_replicated_tables, remove_peer, remove_peer_tableCFs, set_peer_tableCFs, show_peer_tableCFs |
snapshots | clone_snapshot, delete_all_snapshot, delete_snapshot, list_snapshots, restore_snapshot, snapshot |
configuration | update_all_config, update_config |
security | grant, revoke, user_permission |
visibility labels | add_labels, clear_auths, get_auths, list_labels, set_auths, set_visibility |
Hbase shell 命令具体介绍
general
status
作用:查询当前服务器状态。
实例:
hbase(main):006:0> status
1 servers, 0 dead, 5.0000 average load
- 1
- 2
更多用法:
hbase(main):002:0> help 'status'
hbase> status
hbase> status 'simple'
hbase> status 'summary'
hbase> status 'detailed'
hbase> status 'replication'
hbase> status 'replication', 'source'
hbase> status 'replication', 'sink'
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
version
作用:查看hbase版本
实例:
hbase(main):010:0> version
1.0.3, rf1e1312f9790a7c40f6a4b5a1bab2ea1dd559890, Tue Jan 19 19:26:53 PST 2016
- 1
- 2
whoami
作用:查询当前hbase用户
实例:
hbase(main):011:0> whoami
datanode1 (auth:SIMPLE)
groups: datanode1
- 1
- 2
- 3
ddl
create
作用:创建一个表
实例:
#在命名空间ns1下,创建表t1,其中有一个列族f1,f1的版本数为5
hbase> create 'ns1:t1', {NAME => 'f1', VERSIONS => 5}
#在默认命名空间下,创建表t1,有三个列族f1,f2,f3
hbase> create 't1', {NAME => 'f1'}, {NAME => 'f2'}, {NAME => 'f3'}
#等价于
hbase> create 't1', 'f1', 'f2', 'f3'
#创建表t1,列族f1,并设置f1的版本数为1,属性TTL为2592000,属性BLOCKCACHE为true。属性的含义在这就不解释了。
hbase> create 't1', {NAME => 'f1', VERSIONS => 1, TTL => 2592000, BLOCKCACHE => true}
# 创建表t1,列族f1,并设置f1的配置hbase.hstore.blockingStoreFiles 为 10
hbase> create 't1', {NAME => 'f1', CONFIGURATION => {'hbase.hstore.blockingStoreFiles' => '10'}}
#创建表时,配置信息可以放在最后,例如:
hbase> create 'ns1:t1', 'f1', SPLITS => ['10', '20', '30', '40']
hbase> create 't1', 'f1', SPLITS => ['10', '20', '30', '40']
hbase> create 't1', 'f1', SPLITS_FILE => 'splits.txt', OWNER => 'johndoe'
hbase> create 't1', {NAME => 'f1', VERSIONS => 5}, METADATA => { 'mykey' => 'myvalue' }
hbase> # Optionally pre-split the table into NUMREGIONS, using
hbase> # SPLITALGO ("HexStringSplit", "UniformSplit" or classname)
#指定Pre-splitting的region的块数,和分割函数。
hbase> create 't1', 'f1', {NUMREGIONS => 15, SPLITALGO => 'HexStringSplit'}
hbase> create 't1', 'f1', {NUMREGIONS => 15, SPLITALGO => 'HexStringSplit', REGION_REPLICATION => 2, CONFIGURATION => {'hbase.hregion.scan.loadColumnFamiliesOnDemand' => 'true'}}
#也可以用另一个表t2的引用去创建一个新表t1,t1表具有t2的所有列族,并且加上f1列族。
hbase> t1 = create 't2', 'f1'
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
alter
作用:可以修改,增加,删除表的列族信息、属性、配置等。
实例:
#对于表t1,如果t1含有f1列族,则将f1列族的版本数设为5.
# 如果t1不含f1列数,则添加f1列族到表t1上。并将f1的版本数设置为5.
hbase> alter 't1', NAME => 'f1', VERSIONS => 5
#添加或修改多个列族
hbase> alter 't1', 'f1', {NAME => 'f2', IN_MEMORY => true}, {NAME => 'f3', VERSIONS => 5}
#删除 命名空间ns1 中的 表t1 的 列族f1 的两种方法
hbase> alter 'ns1:t1', NAME => 'f1', METHOD => 'delete'
hbase> alter 'ns1:t1', 'delete' => 'f1'
#修改表t1的MAX_FILESIZE属性的值。
hbase> alter 't1', MAX_FILESIZE => '134217728'
# 修改表t1或者列族f2的配置
hbase> alter 't1', CONFIGURATION => {'hbase.hregion.scan.loadColumnFamiliesOnDemand' => 'true'}
hbase> alter 't1', {NAME => 'f2', CONFIGURATION => {'hbase.hstore.blockingStoreFiles' => '10'}}
#删除属性
hbase> alter 't1', METHOD => 'table_att_unset', NAME => 'MAX_FILESIZE'
hbase> alter 't1', METHOD => 'table_att_unset', NAME => 'coprocessor$1'
#一次性修改多个属性值
hbase> alter 't1', { NAME => 'f1', VERSIONS => 3 },
{ MAX_FILESIZE => '134217728' }, { METHOD => 'delete', NAME => 'f2' },
OWNER => 'johndoe', METADATA => { 'mykey' => 'myvalue' }
hbase(main):014:0>
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
alter_async
作用:异步更新,与alter的作用相同。
describe / desc
作用:显示表的属性,表的列族的属性。
实例:
# 命令:显示表t1信息
hbase> describe 't3'
# 显示出的信息:
Table t3 is ENABLED
t3
COLUMN FAMILIES DESCRIPTION
{NAME => 'colfa', BLOOMFILTER => 'ROW', VERSIONS => '1', IN_MEMORY => 'false', KEEP
_DELETED_CELLS => 'false', DATA_BLOCK_ENCODING => 'NONE', COMPRESSION => 'NONE', TT
L => 'FOREVER', MIN_VERSIONS => '0', BLOCKCACHE => 'true', BLOCKSIZE => '65536', RE
PLICATION_SCOPE => '0'}
1 row(s) in 0.0200 seconds
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
disable
作用:disable表,删除一个表之前,必须把表disable
实例:
#disable表t1
hbase> disable 't1'
- 1
- 2
disable_all
作用: disable多个表,接受正则表达好似。
实例:
# disable 所有以t开头的表
hbase> disable_all 't.*'
- 1
- 2
drop
作用:删除表。但是删除之前,必须disable该表
实例:
# 删除表t2
hbase(main):005:0> disable 't2'
0 row(s) in 1.2270 seconds
hbase(main):006:0> drop 't2'
0 row(s) in 0.1750 seconds
- 1
- 2
- 3
- 4
- 5
drop_all
作用:删除多个表,接受正则表达式。
实例:
# 删除所有表名以t开头的表
hbase> drop_all 't.*'
- 1
- 2
enable
作用:与disble相反,enable表
enable_all
作用:enable多个表,接受正则表达式
exists
作用:查询表是否存在
实例:
# 查询表名为t1的表是否存在
hbase(main):003:0> exists 't1'
Table t1 does exist
0 row(s) in 0.3170 seconds
- 1
- 2
- 3
- 4
get_table
作用:返回一个表引用对象
实例:
# 将表t1的应用对象赋给t1d
hbase> t1d = get_table 't1'
#t1d操作
t1d.scan
t1d.describe
...
- 1
- 2
- 3
- 4
- 5
- 6
is_disabled
作用:查询表是否disable
is_enabled
作用:查询表是否enable
list
作用:显示出hbase中的表,接受正则表达式
实例:
#显示所有命名空间的所有表
hbase> list
#显示表名以abc开头的表
hbase> list 'abc.*'
#显示命名空间ns下的表名以abc开头的表
hbase> list 'ns:abc.*'
#显示命名空间ns下的所有表
hbase> list 'ns:.*'
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
show_filters
作用:显示出所有过滤器
实例:
#显示出所有过滤器
hbase> show_filters
- 1
- 2
namespace
create_namespace
作用:创建命名空间
实例:
# 创建命名空间ns1
hbase> create_namespace 'ns1'
# 创建命名空间ns1,并且配置ns1
hbase> create_namespace 'ns1', {'PROPERTY_NAME'=>'PROPERTY_VALUE'}
- 1
- 2
- 3
- 4
- 5
alter_namespace
作用:修改,添加,删除命名空间的属性
实例:
# 设置命名空间ns1的属性
hbase> alter_namespace 'ns1', {METHOD => 'set', 'PROPERTY_NAME' => 'PROPERTY_VALUE'}
# 删除命名空间ns1的属性
hbase> alter_namespace 'ns1', {METHOD => 'unset', NAME=>'PROPERTY_NAME'}
- 1
- 2
- 3
- 4
- 5
describe_namespace
作用:描述命名空间
实例:
# 描述命名空间ns1
hbase(main):008:0> describe_namespace 'ns1'
DESCRIPTION
{NAME => 'ns1', PROPERTY_NAME => 'PROPERTY_VALUE'}
1 row(s) in 0.0040 seconds
- 1
- 2
- 3
- 4
- 5
drop_namespace
作用:删除命名空间,命名空间必须为空, 不包含表
list_namespace
作用:列出所有命名空间
实例:
# 列出所有命名空间
hbase(main):008:0> describe_namespace 'ns1'
DESCRIPTION
{NAME => 'ns1', PROPERTY_NAME => 'PROPERTY_VALUE'}
1 row(s) in 0.0040 seconds
- 1
- 2
- 3
- 4
- 5
list_namespace_tables
作用:显示出某一个命名空间下的所有表
实例:
# 显示出默认命名空间下的所有表
hbase(main):004:0> list_namespace_tables 'default'
TABLE
peoples
t1
t3
3 row(s) in 0.0210 seconds
- 1
- 2
- 3
- 4
- 5
- 6
- 7
dml
scan
作用:扫描某一个表
实例:
# 扫描命名空间hbase下的meta表,显示出meta表的所有数据
hbase> scan 'hbase:meta'
# 扫描命名空间hbase下的meta表的列族info的列regioninfo,显示出meta表的列族info下的regioninfo列的所有数据
hbase> scan 'hbase:meta', {COLUMNS => 'info:regioninfo'}
# 扫描命名空间ns1下表t1的列族'c1'和'c2'。显示出命名空间ns1下表t1的列族'c1'和'c2'的所有数据
hbase> scan 'ns1:t1', {COLUMNS => ['c1', 'c2']}
# 扫描命名空间ns1下表t1的列族'c1'和'c2'。显示出命名空间ns1下表t1的列族'c1'和'c2',且只显示前10个rowkey的数据。
hbase> scan 'ns1:t1', {COLUMNS => ['c1', 'c2'], LIMIT => 10}
# 扫描命名空间ns1下表t1的列族'c1'和'c2'。显示出命名空间ns1下表t1的列族'c1'和'c2',且只显示从rowkey=“xyz”开始的前10个rowkey的数据。
hbase> scan 'ns1:t1', {COLUMNS => ['c1', 'c2'], LIMIT => 10, STARTROW => 'xyz'}
# 扫描默认命名空间下表t1的列族c1时间戳从'1303668804'到'1303668904'的数据
hbase> scan 't1', {COLUMNS => 'c1', TIMERANGE => [1303668804, 1303668904]}
# 反向显示表t1的数据
hbase> scan 't1', {REVERSED => true}
# 过滤显示表t1的数据
hbase> scan 't1', {FILTER => "(PrefixFilter ('row2') AND
(QualifierFilter (>=, 'binary:xyz'))) AND (TimestampsFilter ( 123, 456))"}
# RAW为true,显示出表t1的所有数据,包括已经删除的
hbase> scan 't1', {RAW => true, VERSIONS => 10}
# 表t1的引用的扫描
hbase> t11 = get_table 't1'
hbase> t11.scan
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
append
作用:
实例:
# 向表t1的rowkey为r1的列c1的值后面添加字符串value
hbase> append 't1', 'r1', 'c1', 'value'
#表t1的引用对象t11使用append。
hbase> t11.append 'r1', 'c1', 'value'
- 1
- 2
- 3
- 4
- 5
count
作用:统计表的行数
实例:
#统计表t1的行数
count 't1'
#统计表t1的行数,其中参数的含义如下
# INTERVAL设置多少行显示一次及对应的rowkey,默认1000;CACHE每次去取的缓存区大小,默认是10,调整该参数可提高查询速度
# 例如,查询表t1中的行数,每10条显示一次,缓存区为1000
count 't1', INTERVAL => 10, CACHE => 1000
#对应的表应用对象的用法
hbase> t.count
hbase> t.count INTERVAL => 100000
hbase> t.count CACHE => 1000
hbase> t.count INTERVAL => 10, CACHE => 1000
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
delete
作用:删除表中cell数据
实例:
# 删除命名空间ns1下的表t1的rowkey的r1的列c1,时间戳为ts1
hbase> delete 'ns1:t1', 'r1', 'c1', ts1
# 删除默认命名空间下的表t1的rowkey的r1的列c1,时间戳为ts1
hbase> delete 't1', 'r1', 'c1', ts1
#应用对象的用法
hbase> t.delete 'r1', 'c1', ts1
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
deleteall
作用:一次性删除多个cell数据
实例:
#删除命名空间ns1下表t1的rowkey为r1的所有数据
hbase> deleteall 'ns1:t1', 'r1'
#删除默认命名空间下表t1的rowkey为r1的所有数据
hbase> deleteall 't1', 'r1'
#删除命名空间ns1下表t1的rowkey为r1的列c1的所有数据
hbase> deleteall 't1', 'r1', 'c1'
# 删除默认命名空间下的表t1的rowkey的r1的列c1,时间戳为ts1
hbase> deleteall 't1', 'r1', 'c1', ts1
#应用对象的用法
hbase> t.deleteall 'r1'
hbase> t.deleteall 'r1', 'c1'
hbase> t.deleteall 'r1', 'c1', ts1
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
get
作用:得到某一列或cell的数据。
实例:
#得到命名空间ns1下表t1的rowkey为r1的数据
hbase> get 'ns1:t1', 'r1'
#得到默认命名空间下表t1的rowkey为r1的数据
hbase> get 't1', 'r1'
#得到默认命名空间下表t1的rowkey为r1,时间戳范围在ts1和ts2之间的数据
hbase> get 't1', 'r1', {TIMERANGE => [ts1, ts2]}
#得到默认命名空间下表t1的rowkey为r1的c1列的数据
hbase> get 't1', 'r1', {COLUMN => 'c1'}
#得到默认命名空间下表t1的rowkey为r1的c1,c2,c3列的数据
hbase> get 't1', 'r1', {COLUMN => ['c1', 'c2', 'c3']}
#得到默认命名空间下表t1的rowkey为r1的c1列,时间戳为ts1的数据
hbase> get 't1', 'r1', {COLUMN => 'c1', TIMESTAMP => ts1}
#得到默认命名空间下表t1的rowkey为r1的c1列,时间戳范围为ts1到ts2,版本数为4的数据
hbase> get 't1', 'r1', {COLUMN => 'c1', TIMERANGE => [ts1, ts2], VERSIONS => 4}
#应用对象的用法
hbase> t.get 'r1'
hbase> t.get 'r1', {TIMERANGE => [ts1, ts2]}
hbase> t.get 'r1', {COLUMN => 'c1'}
hbase> t.get 'r1', {COLUMN => ['c1', 'c2', 'c3']}
hbase> t.get 'r1', {COLUMN => 'c1', TIMESTAMP => ts1}
hbase> t.get 'r1', {COLUMN => 'c1', TIMERANGE => [ts1, ts2], VERSIONS => 4}
hbase> t.get 'r1', {COLUMN => 'c1', TIMESTAMP => ts1, VERSIONS => 4}
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
put
作用:添加cell
实例:
# 向命名空间ns1下表t1的rowkey为r1的列c1添加数据
hbase> put 'ns1:t1', 'r1', 'c1', 'value'
# 向默认命名空间下表t1的rowkey为r1的列c1添加数据
hbase> put 't1', 'r1', 'c1', 'value'
# 向默认命名空间下表t1的rowkey为r1的列c1添加数据,并设置时间戳为ts1
hbase> put 't1', 'r1', 'c1', 'value', ts1
# 向默认命名空间下表t1的rowkey为r1的列c1添加数据,并设置时间戳为ts1,并设置属性
hbase> put 't1', 'r1', 'c1', 'value', ts1, {ATTRIBUTES=>{'mykey'=>'myvalue'}}
#引用对象的用法
t.put 'r1', 'c1', 'value', ts1, {ATTRIBUTES=>{'mykey'=>'myvalue'}}
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
truncate
作用:删除表,不用disable
实例:
#删除表t3,不用disable
truncate 't3'
- 1
- 2
引用文档:
http://blog.csdn.net/woshiwanxin102213/article/details/17611457
split的三种方式