IDEA环境配置
-
下载最新版IDEA, 我这里是MacOS所以选择的也是这个最新的旗舰版。
-
下载,安装之后在创建Maven项目,JDK预先备好,具体可在oracle官网下载。
-
取一个你喜欢的名字对你的项目命名。
-
由于IDEA自带的下载方式经常失败,所以这次选择在官网下载对应的scala和spark版本。使用下面的命令可以下载3.1.1版本的Spark,同时在官网下载2.12.x版本的scala,否则运行时会报错!!!
wget https://mirrors.estointernet.in/apache/spark/spark-3.1.1/spark-3.1.1-bin-hadoop2.7.tgz
-
进入项目之后,我们要为项目添加Scala和Spark环境,左上角点击File,选择Project Structure.
首先点击Java,找到你下载spark包的位置,将对应的 jars文件夹导入。然后点击Scala SDK,找到你下载Scala包的位置,将对应的lib文件夹导入。 -
创建scala object 类,并运行一个简单的application。
import org.apache.spark.{SparkConf, SparkContext}
object sparktest {
def main(args: Array[String]): Unit = {
// 创建 Spark 运行配置对象
val sparkConf = new SparkConf().setMaster("local[*]").setAppName("WordCount")
// 创建 Spark 上下文环境对象(连接对象)
val sc : SparkContext = new SparkContext(sparkConf)
// 停止 Spark
sc.stop()
}
}