HbaseImportTSV

个人博客

https://kongdada.github.io/
这个也是最近经手的一个项目中涉及到的一个可以将HDFS上的数据直接导入HBASE表中的命令行工具。这个属于HBASE所以与上一篇Hadoop中的工具分开来写。

Hbase importTsv
概述和使用步骤:

ImportTsv是Hbase提供的一个命令行工具,可以将存储在HDFS上的自定义分隔符(默认\t)的数据文件,通过一条命令方便的导入到HBase表中,对于大数据量导入非常实用,其中包含两种方式将数据导入到HBase表中:
stepA: 生成HFile格式的文件
stepB: 执行一个叫做CompleteBulkLoad的命令,将文件move到HBase表空间目录

一个例子:
  • 第一步,生成Hfile
$ bin/hbase org.apache.hadoop.hbase.mapreduce.ImportTsv 
-Dimporttsv.columns=HBASE_ROW_KEY,f:accountID,f:time,f:crownCommonKeyID	//格式
-Dimporttsv.bulk.output=hdfs://storefile-outputdir 	//输出目录
<tablename> 	//输出后保存文件名
<hdfs-data-inputdir>	//输入目录
  • 第二步,完成导入
$ bin/hbase org.apache.hadoop.hbase.mapreduce.LoadIncrementalHFiles 
<hdfs://storefileoutput> 	//这是上文的输出目录,也是这一步的输入目录
<tablename>	//导入hbase的表名

基本使用便是以上这样子。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值