Linux idea创建spark项目,IntelliJ IDEA搭建spark

环境:

jdk 1.18

scala 2.12.0

ubuntu 16.04

Intellij IDEA 2017.1

spark 2.1.0

步骤:

875418

761788ce6df5f791a9ef2a7408798802.png

875418

875418

cb0b3049baec21e7568f283e824d9175.png

de41630817b506856a44f093515d00c8.png

2、安装intellij IDEA并且下载scala plugin

187fd063ade0469541c54f87d75da411.png

875418

748b8c8e0fd8d8eaee87cbe5345b654f.png

遇到问题1:

scala plugin 下载出现错误:connect time out等

直接

875418

361913bfa6d3ad8262ee454f5415cc24.png

点击下载就进入:

875418

e9b45b0032a98c74969d779331b43965.png

3215a9e86d17336d98466e6ffeb6837b.png

先下移动滚动条:

875418

4acbfb8c9ddc2e93d9894a3cceb58b7a.png

离线下载完毕:

875418

a580098545108abd919d2a188cdf99ec.png

点击下载的安装包,选择OK

875418

b7705b0f4485809be02873f505f20f41.png

最后重启intellij IDEA

3.搭建spark

选择创建工程

875418

a32e21f70218bfcd1e7a8f4cb51aa7f0.png

选择scala(IDEA其实就是scala,),如果没有安装sbt就没有sbt这个选项

875418

5ab9782cf29917986ef46ef78cea78b6.png

875418

7d5bc3f80ad16a91c17ae090e26c4344.png

875418

2bb7cb6d10aae0746134eb8ba71ccb72.png

选择Modues,"+"

875418

a1e6efadeaa3572df251489ebac92170.png

不要使用默认的name,有时会报错

875418

c89baa70dc23b6541008e5334bfcf5b2.png

右击,选择添加文件夹

875418

3762f0f6e5a4ce2e4f2f9bce524fe432.png

命名

875418

03cbb3e81fc91462df433dfa34c6bd2e.png

导入spark的包

875418

d4446dc3ef9922faba7b94a8bcd16e0f.png

方法一:在spark.apache.org官网上下载(1.5版本以后都没jar包)

875418

27b997915d33cd1aec467efa093bbca7.png

方法二:在自己下载spark环境下,找到jars,添加适合的.jar

875418

435097031ff4b8c957bb7e160adbf7f6.png

dd0b8194ccca85ea8b0b66499ea9be98.png

在scala文件下

875418

287decea2d378e764715277064496805.png

选择Object

875418

ddc67e9a3583761322794466048b75a5.png

进入的界面为:

fabf1ef2e645bc1ceb5cc07702a09da2.png

875418

a916ac5e50f0b3b1752e313674ecad8b.png

spark环境搭建完毕!!!

如果遇到问题二:

875418

94df01ee3c3688f1f07d790b1e5c18e8.png

主要是:

文件夹的都是source类型的,在intellij IDEA在大约2.10.0版本之后,选择三个文件为source类型的,编译都会出错。保留一个source文件夹,个人选择

875418

bc889f6c94cae8464c45a9cb06b2cdbf.png

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值