Spark工作中遇到bug汇总及解决

Spark工作中遇到bug汇总及解决

一.SparkSQL相关

1. 在执行insert 语句时报错，堆栈信息为：FileSystem closed。常常出现在ThriftServer里面。
   原因： 由于hadoop FileSystem.get 获得的FileSystem会从缓存加载，如果多线程一个线程closedFileSystem会导致该BUG
   解决方法：hdfs存在不从缓存加载的解决方式，在hdfs-site.xml 配置 fs.hdfs.impl.disable.cache=true**即可

2. 在执行Spark过程中抛出：Failed to bigdata010108:33381，caused by：java.nio.channels.unresolvedAdderssException