一. 需求
今天在spark集群上运行一个任务,报如下错误:
java.lang.ClassNotFoundException: com.mysql.jdbc.Driver
二. 解决方案
根据报错信息我们可以知道,缺少java连接mysql的的jar包。
此时我们需要找到spark的lib目录,然后将jar包拷贝到该目录,这样我们程序就可以读取到该jar包。
我使用的是CDH 6.3.1版本,目录如下:
/opt/cloudera/parcels/CDH-6.3.1-1.cdh6.3.1.p0.1470567/lib/spark/jars