一个多线程的程序。FileSystem.get(getConf())返回的可能是一个cache中的结果,它并不是每次都创建一个新的实例。这就意味着,如果每个线程都自己去get一个文件系统,然后使用,然后关闭,就会有问题。因为你们关闭的可能是同一个对象。而别人还在用它!
所以最好是在main函数中就创建好filesystem对象然后在不同函数之间来回传递吧。在main函数用用try…finally关闭它。
多线程程序中,如果你确保在你的get和close之间不会有别人调用get,也没问题
或者关闭cache
通过修改配置文件core-site.xml:
<property>
<name>fs.hdfs.impl.disable.cache</name>
<value>true</value>
</property>
程序仍然出现上述问题。
在程序中,加上这条语句:JobConf jobConf.set("fs.hdfs.impl.disable.cache", "true");
程序运行成功。