运行spark出现java.lang.NoSuchMethodError: scala.Predef$.refArrayOps([Ljava/lang/Object;)

最新推荐文章于 2023-07-10 14:10:42 发布

奋斗的IT小白菜

最新推荐文章于 2023-07-10 14:10:42 发布

阅读量2.3k

点赞数 1

分类专栏： spark

本文链接：https://blog.csdn.net/qq_36470898/article/details/104254268

版权

spark 专栏收录该内容

10 篇文章

订阅专栏

本文解决了一个关于Maven中Spark依赖版本不一致导致的问题。详细介绍了由于Maven导入的Spark依赖的Scala版本与本地版本不符（Maven为2.11，本地为2.12）引发的错误，并提供了修改依赖版本后的解决方案。通过调整Maven的Spark依赖到与本地一致的Scala版本（2.12），成功解决了问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

出现这个问题原因是原因Maven导入的spark依赖的是Scala版本和本地版本不一致。

这里我导入的Maven导入的spark依赖的是Scala版本是2.11而本地是2.12 在这里插入图片描述


 <dependencies>
        <dependency>
            <groupId>org.apache.spark</groupId>
            <artifactId>spark-core_2.11</artifactId>
            <version>2.4.0</version>
        </dependency>

参考https://mvnrepository.com/artifact/org.apache.spark/spark-core上面的spark和Scala混搭版本
在这里插入图片描述
之后修改Maven导入的spark依赖的是Scala版本，解决了问题


 <dependencies>
        <dependency>
            <groupId>org.apache.spark</groupId>
            <artifactId>spark-core_2.12</artifactId>
            <version>2.4.5</version>
        </dependency>