hbase bulkload 方式

1、生成hdfs文件
创建hive表,这个表是用来生成适合bulkload的数据,被hbase导入之后该表为空表

create table stu_info(
rowkey string comment ‘rowkey’,
name string comment ‘姓名’
)
STORED AS
INPUTFORMAT ‘org.apache.hadoop.mapred.TextInputFormat’
OUTPUTFORMAT ‘org.apache.hadoop.hive.hbase.HiveHFileOutputFormat’
TBLPROPERTIES (‘hfile.family.path’ = ‘/user/hive-hbase/info’);

hfile.family.path的最后一级目录为hbase的列族,同样的,这种方式限制了hbase列族的个数

添加依赖jar
add jar /opt/apache-hive-2.3.4-bin/lib/hbase-client-1.1.1.jar;
add jar /opt/apache-hive-2.3.4-bin/lib/hbase-common-1.1.1.jar;
add jar /opt/apache-hive-2.3.4-bin/lib/hbase-server-1.1.1.jar;
add jar /opt/apache-hive-2.3.4-bin/lib/hbase-protocol-1.1.1.jar;
add jar /opt/apache-hive-2.3.4-bin/lib/hive-hbase-handler-2.3.4.jar;
随便添加点数据会看到有hdfs目录下有文件成成
insert into stu_info values(‘001’,‘zhangsan’);

2、创建hbase表
create ‘stu_info’,‘info’

3、桶导入
{HBASE_HOME}/bin/hbase bulkload
hbase org.apache.hadoop.hbase.mapreduce.LoadIncrementalHFiles
hdfs://node01:9000/user/hive-hbase/ stu_info

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值