背景:
在idea中运行spark程序来操作MySQL数据库中的表时报错:
Exception in thread “main” java.lang.IllegalArgumentException: Pathname /F:/spark/spark-warehouse from F:/spark/spark-warehouse is not a valid DFS filename.
原因:
因为我们在程序中,通常会将代码以打jar包的方式,放到集群中运行,所以会导入hdfs-site.xml和core-site.xml等文件,当我们导入这两个文件的后,再次运行程序时会读取到该文件,因此会访问hdfs存储系统中的目录,因此会报错。
解决:
将core-site.xml和hdfs-site.xml这两个文件名添加后缀.bak,如下图所示,重新运行成功:
问题解决。