出现这个问题有两个原因:
1.缺少对应的jar包
当maven依赖里去除了对应的jar包(如下图)
通过exclusion标签去除了对应的jar包
或者是在引入servlet时加入了
<scope>provided</scope>
这个会导致在编译和测试时有用,但在运行时会忽略这个jar包
2.jar包冲突
在用tomcat启动一个web应用,在导入servlet后用spark-sql来查询数据时,报出这个错。是因为在tomcat中自带servlet这个jar包,在运行时没有忽略这个servlet jar包会报错,而且在spark-core这个spark jar包中也自带了一个servlet jar包。这个里有三个重复的servlet,所以需要去除其他不必要的jar包,因为项目运行在tomcat上,所以我们要去除spark-core和我们导入的servlet jar包,在编译时其他程序需要用到我们导入的servlet ,所以我们加一个<scope>provided</scope>来避免运行时,和tomcat中冲突,而spark-core中的servlet我们直接复用导入的servlet,于是就有了
<dependency>
<groupId>org.apache.spark</groupId>
<artifactId>spark-core_2.11</artifactId>
<version>2.4.8</version>
<exclusions>
<exclusion>
<groupId>org.apache.xbean</groupId>
<artifactId>xbean-asm6-shaded</artifactId>
</exclusion>
<exclusion>
<groupId>javax.servlet</groupId>
<artifactId>*</artifactId> <!--最好是全部排除-->
</exclusion>
</exclusions>
</dependency>
<dependency>
<groupId>javax.servlet</groupId>
<artifactId>javax.servlet-api</artifactId>
<version>3.1.0</version>
<scope>provided</scope>
</dependency>
这样就去除了其他不要的jar包,但是在编译时,可以复用,在服务器上运行时,不受影响。
这里需要注意的一点是,在编译的servlet和tomcat自带的servlet可能会有版本冲突。
tomcat7无法使用最新的spark-core版本。