按照博客在IDEA上配置Spark环境,所有博客都写的是:
【导入spark包】
在项目页“File” -> "project structure" -> "Libraries", 点“+”,选“java”,找到spark-assembly-1.2.0-hadoop2.4.0.jar导入,这样就可以编写spark的scala程序了
问题是我在spark文件夹中根本没有看到spark-assembly-*.jar?????
后来才发现因为spark升级到spark2以后,原有lib目录下的大JAR包被分散成多个小JAR包,原来的spark-assembly-*.jar已经不存在。原来的jar包分解为:jars/*.jar
所以导入的时候直接导入spark文件夹中的所有jar包就可以了。
记录一下备忘。