pytorch: 四种方法解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB

最新推荐文章于 2025-04-06 17:55:18 发布

置顶 xiyou__

最新推荐文章于 2025-04-06 17:55:18 发布

阅读量10w+

点赞数 210

分类专栏： Bug处理文章标签： pytorch cuda debug

本文链接：https://blog.csdn.net/xiyou__/article/details/118529350

版权

Bug处理专栏收录该内容

5 篇文章

订阅专栏

本文详细介绍了如何解决运行时CUDA内存溢出错误，包括调整batch_size、定期清理内存、使用no_grad()和修改pin_memory设置。通过实例和原理解析，帮助开发者避免CUDA内存不足问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Bug：RuntimeError: CUDA out of memory. Tried to allocate … MiB

解决方法：

法一：

调小batch_size，设到4基本上能解决问题，如果还不行，该方法pass。

法二：

在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）：

import torch, gc

gc.collect()
torch.cuda.empty_cache()

法三（常用方法）：

在测试阶段和验证阶段前插入代码 with torch.no_grad()（目的是该段程序不计算参数梯度），如下：

def test(model,dataloader):
    model.eval()
    with torch.no_grad(): ###插在此处
        for batch in tqdm(dataloader):
			……

法四（使用的别人的代码时）：

如果怎么修改，都会出现题中bug，甚至跑了几轮之后突然出现 cuda out of
memory，查看代码中是否存在一下代码（通常出现在main.py 或者数据加载的py文件中：

kwargs = {'num_workers': 6, 'pin_memory': True} if torch.cuda.is_available() else {}

将"pin_memory": True改为False，具体原因原博：

pin_memory就是锁页内存，创建DataLoader时，设置pin_memory=True，则意味着生成的Tensor数据最开始是属于内存中的锁页内存，这样将内存的Tensor转义到GPU的显存就会更快一些。
主机中的内存，有两种存在方式，一是锁页，二是不锁页，锁页内存存放的内容在任何情况下都不会与主机的虚拟内存进行交换（注：虚拟内存就是硬盘），而不锁页内存在主机内存不足时，数据会存放在虚拟内存中。显卡中的显存全部是锁页内存,当计算机的内存充足的时候，可以设置pin_memory=True。当系统卡住，或者交换内存使用过多的时候，设置pin_memory=False。因为pin_memory与电脑硬件性能有关，pytorch开发者不能确保每一个炼丹玩家都有高端设备，因此pin_memory默认为False。