spark-sql读取映射hbase数据的hive外部表

之前在业务处理中建立的一个hive映射hbase数据的外部表,通过hive查询成功,但是通过spark-sql去查询报了如下错误:

Error: java.lang.RuntimeException: org.apache.hadoop.hive.ql.metadata.HiveException: Error in loading storage handler.org.apache.hadoop.hive.hbase.HBaseStorageHandler

版本

spark-2.1.0(只试过1.6.x和2.1.x都有这种问题) ,cdh 5.10.2

解决方式

前提是你已经可以通过spark-sql读取hive的数据了。
解决方式非常简单。

1.拷贝如下jar包到${spark_home}/jars(spark2.0之前是${spark_home}/lib):

  • hbase-protocol-1.2.0-cdh5.10.2.jar
  • hbase-client-1.2.0-cdh5.10.2.jar
  • hbase-common-1.2.0-cdh5.10.2.jar
  • hbase-server-1.2.0-cdh5.10.2.jar
  • hive-hbase-handler-1.1.0-cdh5.10.2.jar
  • metrics-core-2.2.0.jar

2.将hbase的配置文件 hbase-site.xml 拷贝到${spark_home}/conf目录下。

解决!!!

评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值