IDEA创建maven项目并用spark程序访问hive

(安装好idea,java,scala,spark,hive,mysql)

1.打开IDEA,文件->新建->项目->选择Maven 

 2.在IDEA中,文件->设置->插件->下载Scala插件

 3.文件->项目结构->全局库

 4.在项目库中导入spark安装目录jar包

 

 5.把main目录下的java文件夹改名为scala,并右键->将目录标记为->源代码根目录

 6.右键scala,新建->scala类->object->命名wordcount

7.删除pom.xml原有内容添加以下内容:(输入自己对应的版本号)

 

 

8.点击load maven change按钮,下载依赖文件。

 

 9.在resources文件夹下拷贝Hadoop配置文件下的core-site.xml和hdfs-site.xml文件以及hive配置文件下的hive-site.xml文件,并创建资源包命名为log4j.properties

 10.登录mysql输入:

mysql -u root -p

grant all privileges on *.* to root@'localhost' identified by 'passwd';

grant all privileges on *.* to root@'%' identified by 'passwd';

flush privileges;

select user,host from mysql.user where user='root';

 (将IP地址改为linux环境中对应的ip)

11.开启hadoop集群:start-all.sh

     开启spark集群:cd /home/user/spark/sbin

                                ./start-all.sh

12.hive开启metastore服务:hive --service metastore

13.输入代码测试spark是否导入成功

 

14. 输入代码测试spark是否可以访问hive数据库

 

  • 5
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值