ERROR: Unexpected bus error encountered in worker. This might be caused by insufficient shared memor

15 篇文章 2 订阅
14 篇文章 1 订阅

在Docker容器中利用Pytorch训练模型的时候,出现了题目中的错误:

ERROR: Unexpected bus error encountered in worker. This might be caused by insufficient shared memory (shm).
ERROR: Unexpected bus error encountered in worker. This might be caused by insufficient shared memory (shm).
......
RuntimeError: unable to write to file </torch_265_3416587874_1>: No space left on device (28)

看错误提示应该是共享内存不够了。

在容器红执行df -h查看磁盘使用情况:

可见容器默认的shared memory只有64MB。但训练程序中,data_loader设置的workers数目比较多,该程序中为8,这些workers通过共享内存进行协作,导致默认的共享内存不够用。

Please note that PyTorch uses shared memory to share data between processes, so if torch multiprocessing is used (e.g. for multithreaded data loaders) the default shared memory segment size that container runs with is not enough, and you should increase shared memory size either with --ipc=host or --shm-size command line options to nvidia-docker run.

基于以上原因,解决方法可从两个方面入手:

1. 将workers数量降低,例如设置num_workers=0;

2. 将容器的共享内存加大,由上面英文提示,可通过--ipc=host或--shm-size进行设置。 

这里,我选择的是第二种方式,加大容器的共享内存:

docker run ... --shm-size 8G ...

重启容器后,再次通过df -h查看磁盘使用情况,发现共享内存已经变成8G:

再次运行训练程序,成功! 

  • 15
    点赞
  • 26
    收藏
    觉得还不错? 一键收藏
  • 8
    评论
评论 8
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值