本文探讨了在使用PyTorch训练神经网络时遇到的显存占用不断增长的问题，导致训练过程中出现out of memory错误。通过尝试在每次迭代后删除变量并结合torch.cuda.empty_cache()，成功解决了内存泄漏问题。尽管存在自动内存管理方法，但手动回收在某些情况下更有效。文章引用了多个在线资源，为读者提供了理解和解决问题的途径。
前言：
{
现在的神经网络模型，动不动就爆内存。两年前我笔记本2G的显存都绰绰有余，现在16G的P100，24G的P40却还不够。更让我郁闷的是，在pytorch训练时，显存占用竟然会不断增加，可能刚开始训练时是正常的，但是放在那里，不知道什么时候它就突然来一句out of memory，然后就尥蹶子不干了，白白浪费了很长的时间。所以这个问题我确实需要搞清楚。
}
正文：
{
首先，我要说一个比较野蛮的办法，就是单独写一个训练脚本，其开始时先载入模型，结束时再保存模型。然后把数据集分割成更小的子数据集（小到模型不会因为显存而尥蹶子不干）。当然，训练脚本的输出参数应当包含数据集（编号）和/或子数据集（编号）。
我去谷歌上搜了一下，最先看到的是[1]，上面建议用del删除一些变量，我尝试过用del在每次迭代后删除所有能删除的变量（输入，输出，损失），但是不起效果，模型还是会在同样的迭代次数后报错。
后来我又找到了[2]，上面说之后再加上torch.cuda.empty_cache()，这次成功了。
也就是说，del操作后再加上torch.cuda.empty_cache()才会起效果!代码1是一个例子。
#代码1。
"""添加了最后两行，i
最低0.47元/天 解锁文章
扫一扫
3万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
