基于Spark 2.0.0搭建Hive on Spark环境

一、运行环境

CentOS 7.2

Hadoop 2.7

Hive 2.2.0

Spark 2.0.0

JDK 1.7

Scala 2.11.8

Maven 3.3.9

说明:Scala 2.11.8以后的版本只支持JDK1.8,如果环境原本是使用JDK1.7的就不需要安装最新版本。


二、开始配置前的排坑

很多人都会参考Hive on spark的官方手册https://cwiki.apache.org//confluence/display/Hive/Hive+on+Spark:+Getting+Started来配置,但其中还是有很多坑的,下面就说一下官方手册上的坑及没有提到一些细节。

1)版本兼容问题

HIVE官方指引说Spark一定要安装没有HIVE jar包的版本。原文“Note that you must have a

  • 4
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值