Kettle9 连接SparkSql

前言

由于网上没有关于kettle连接sparksql的相关文章,而由于spark版本问题,造成spark中的hive依赖版本和hive的版本不同,这就造成了我连接了hive就没办法连接sparksql,所以编写以下文章帮助有同样问题的人

kettle连接sparksql

步骤很简单,将spark中的几个依赖包拷贝到data-integration\lib下即可,我下面列举几个需要的依赖包,其中有几个包在hive下spark下未找到

spark-hive-thriftserver_2.11-2.4.7.jar
spark-avro_2.11-4.0.0.jar
spark-catalyst_2.11-2.4.7.jar
spark-core_2.11-2.4.7.jar
spark-hive_2.11-2.4.7.jar
spark-network-common_2.11-2.4.7
spark-sql_2.11-2.4.7.jar
hive-cli-1.2.1.spark2.jar
hive-exec-1.2.1.spark2.jar
hive-jdbc-1.2.1.spark2.jar
hive-metastore-1.2.1.spark2.jar
protobuf-java-2.5.0.jar
libthrift-0.9.3.jar
hadoop-common-2.9.0.jar
hadoop-hdfs-2.9.0.jar
hadoop-hdfs-client-2.9.0.jar
hadoop-mapreduce-client-core-2.9.0.jar
hadoop-yarn-client-2.9.0.jar

然后选择通用连接即可连接

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值