hive和hbase集成

1. 检查$HIVE_HOME/lib下有无如下jar包:

guava-14.0.1.jar
,zookeeper.jar
,hive-hbase-handler.jar
,hbase-common.jar
,hbase-server.jar
,hbase-client.jar
,htrace-core.jar
,hbase-protocol.jar

2. 如果缺少,则在$HBASE_HOME/lib中将它们cp过来

3. 配置hive-site.xml

加上如下参数:

<property>
<name>hive.aux.jars.path</name>
<value>/usr/lib/hive/lib/guava-14.0.1.jar,/usr/lib/hive/lib/zookeeper.jar,/usr/lib/hive/lib/hive-hbase-handler.jar,/usr/lib/hive/lib/hbase-common.jar,/usr/lib/hive/lib/hbase-server.jar,/usr/lib/hive/lib/hbase-client.jar,/usr/lib/hive/lib/htrace-core.jar,/usr/lib/hive/lib/hbase-protocol.jar</value>
</property>

在 hive-site.xml 配置文件中增加这个参数 ,不让手工修改的原因是,hive服务重启后,手工修改的配置会被冲掉。

4.  将hbase/conf下的hbase-site.xml文件复制到所有hadoop节点的hadoop/conf下

5. 重启元数据服务器:

service hive-metastore restart

6. 根据hbase的表创建hive的外部表

hbase中查看

hbase(main):004:0> scan 't1'
ROW                                              COLUMN+CELL                                                                                                                                   
 rowkey001                                       column=f1:col1, timestamp=1491029052186, value=value01                                                                                        
1 row(s) in 0.0850 seconds

hive中创建外部表且查询

hive> CREATE EXTERNAL TABLE if not exists t1(
    >          Rowkey  string,
    >          f1  string
    >   )
    >  STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler' 
    >  WITH SERDEPROPERTIES('hbase.columns.mapping' = ':key,f1:col1')
    >  TBLPROPERTIES('hbase.table.name' = 't1');
OK
Time taken: 1.443 seconds
hive> select * from t1;
OK
rowkey001 value01
Time taken: 0.677 seconds, Fetched: 1 row(s)

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值