tensorflow 分布式结合hdfs 报错：No lease on File does not exist. Holder DFSClient_NONMAPREDUCE

holomain

于 2019-04-15 15:56:56 发布

阅读量5.1k

点赞数

分类专栏： TensorFlow 分布式系统

kill yak-shaving

本文链接：https://blog.csdn.net/qq_27882063/article/details/89313792

版权

在尝试使用TensorFlow进行分布式计算并结合HDFS时，遇到了'No lease on File does not exist. Holder DFSClient_NONMAPREDUCE'的错误。问题可能源于多个进程同时读写同一目录。根据分析，该错误可能是由于多个进程试图访问不存在的文件导致的。解决方案是在启动多进程时加入10秒的睡眠时间以避免并发冲突。此外，使用TensorBoard查看日志也需要配置相应的环境。

摘要由CSDN通过智能技术生成

tensorflow 分布式脚本启动方式：
https://github.com/tensorflow/examples/blob/master/community/en/docs/deploy/hadoop.md

在分布式程序执行代码中使用multiprocessing 分别启动ps， master， worker

multiprocessing.Process(target=start_dist, args=(params, ps_index, 'ps', '')).start()
        time.sleep(10.0)  # 添加后解决

启动过程中报出错误： at org.apache.hadoop.ipc.Server$Handler.run(Server.java:2043)
org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException): No lease on /root/Deles/pipeline.config (inode 59875): File does not exist. Holder DFSClient_NONMAPREDUCE_184200389_1 does not have any open files.