RuntimeError: CUDA out of memory（已解决）

最新推荐文章于 2024-06-30 23:24:39 发布
最新推荐文章于 2024-06-30 23:24:39 发布
阅读量10w+ 收藏 193
点赞数 57
分类专栏： pytorch 机器学习&深度学习 文章标签： cuda pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_37555071/article/details/108346569
版权
本文介绍了在使用PyTorch训练神经网络时遇到CUDA out of memory的错误，详细解析了错误原因，并提供了通过查看GPU使用情况及结束占用进程的方法来释放GPU内存，以解决此问题。
摘要由CSDN通过智能技术生成

今天用pytorch训练神经网络时，出现如下错误：

RuntimeError: CUDA out of memory. Tried to allocate 144.00 MiB (GPU 0; 2.00 GiB total capacity; 1.29 GiB already allocated; 79.00 MiB free; 1.30 GiB reserved in total by PyTorch)

明明 GPU 0 有2G容量，为什么只有 79M 可用？ 并且 1.30G已经被PyTorch占用了。这就说明PyTorch占用的GPU空间没有释放，导致下次运行时，出现CUDA out of memory。

解决方法如下：

（1）新建一个终端
在这里插入图片描述
（2）输入 nvidia-smi，会显示GPU的使用情况，以及占用GPU的应用程序
在这里插入图片描述
（3）输入taskkill -PID 进程号 -F 结束占用的进程，比如 taskkill -PID 7392 -F
在这里插入图片描述

最低0.47元/天 解锁文章
雷恩Layne
关注
  • 57
    点赞
  • 踩
  • 193
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 48
    评论
专栏目录
RuntimeError: CUDA out of memory.
小糖宝的博客
08-11 2100
报错： RuntimeError: CUDA out of memory. Tried to allocate 36.00 MiB (GPU 0; 2.00 GiB total capacity; 859.04 MiB already allocated; 6.46 MiB free; 904.00 MiB reserved in total by PyTorch) 解决方案： win+r，输入cmd，输入nvidia-smi查看GPU使用情况 可以看到有几个运行的进程，输入 taskkill -PID
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码： with torch.no_grad(): # 停止自动反向计算梯度 参考： https://wisdomai.xyz/tool/pytorch/archives/2301 https://ptorch.com/news/160.html 作者：菜叶儿掉啦
【已解决】探究CUDA out of memory背后原因，如何释放GPU显存？
FRIGIDWINTER的博客
04-11 6万+
本文探究CUDA的内存管理机制，总结RuntimeError: CUDA out of memory的背后原因，并给出解决方案
RuntimeError: CUDA out of memory并不是真的内存不够，而是由于代码中列表存储张量才爆显存
失眠的树的博客
03-15 700
我以为是服务器平台的硬件配置问题，但是因为这个代码原来是能够复现出来的，所以应该还是代码的问题。
深度学习CUDA Out of Memory原因总结和方法
最新发布
PeterClerk的博客
06-30 880
CUDA Out of Memory原因总结和方法
显存充足却提示out of memory(allocated memory try setting max_split_size_mb to avoid fragmentation)
睦生
10-28 6504
在训练模型的过程中，遇到如下问题：显存有一半以上的空间却仍然报out of memory的错误。本文总结网上的相关解决方案，由于这些方案对本问题均无效，本文经过实践提出了一种新的解决方法。
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity；总结（1）
qq_38148600的博客
09-04 3万+
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 6.00 GiB total capacity; 4.54 GiB already allocated; 14.94 MiB free; 4.64 GiB reserved in total by PyTorch) 分析问题CUDA内存超载 解决尝试一：GPU未被调用， https://blog.csdn.net/xc_zhou/article/details/107737783 ..
RuntimeError: CUDA out of memory. Tried to allocate 144.00 MiB (GPU 0； 2.00 GiB total capacity； 1.29
weixin_43725886的博客
07-04 1万+
RuntimeError: CUDA out of memory. Tried to allocate 144.00 MiB (GPU 0; 2.00 GiB total capacity; 1.29 GiB already allocated; 79.00 MiB free; 1.30 GiB reserved in total by PyTorch) 解决方案
解决：RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0； 2.00 GiB total capacity； 1
热门推荐
地中海の养成记
01-31 6万+
1. 问题2. 分析3. 解决 1. 问题 训练模型时报错： RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0; 2.00 GiB total capacity; 1.49 GiB already allocated; 57.03 MiB free; 6.95 MiB cached) 2. 分析 这种问题，是GPU内存不够引起的 3. 解决 方法一： 换高性能高显存的显卡 方法二：修改代码 报错的训练代码为.
RuntimeError: CUDA out of memory
qq_46600553的博客
07-29 1万+
报错内容： RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 2.00 GiB total capacity; 1.34 GiB already allocated; 14.76 MiB free; 1.38 GiB reserved in total by PyTorch) 查资料的过程发现另一种报错： RuntimeError: CUDA out of memory. Tried to allocate 12.50
RuntimeError: CUDA error: out of memory
PuLaNa_的博客
08-10 849
RuntimeError: CUDA error: out of memory
Python RuntimeError: thread.__init__() not called解决方法
09-22
然而，在使用`threading.Thread`进行多线程编程时，可能会遇到`RuntimeError: thread.__init__() not called`这样的错误。这个错误通常意味着你没有正确地初始化`threading.Thread`的实例。 在标题和描述中提到的...
RuntimeError: Cannot run the event loop while another loop is running(目前没有解决)
12-21
总结来说，解决 `RuntimeError: Cannot run the event loop while another loop is running` 错误的关键在于保持事件循环的一致性，确保所有的操作都在同一个事件循环内进行，避免在异步环境中使用同步代码。...
解决pycharm导入numpy包的和使用时报错：RuntimeError: The current Numpy installation (‘D:\\python3.6\\lib\\site-packa的问题
01-21
标题用pycharm导入numpy包的和使用时报错：RuntimeError: The current Numpy installation (‘D:\python3.6\lib\site-packages\numpy\init.py 1.file→settings→project interpreter→+（建议用pychon3.6版本，我...
Runtime Error CUDA error out of memory
weixin_42272869的博客
02-27 3747
Runtime Error CUDA error out of memory 问题描述 出错描述：在训练模型python train.py 的时候，出现 RuntimeErrorCUDA error out of memory 错误 出错原因：字面意思，out of memory 问题处理（三种常见的解决方式） 1、查看GPU的使用情况，切换（多GPU的情况） 在服务器上输入 ： nvidia-smi 查看GPU的使用情况： 可以看到第0个GPU 使用占了，可以用空闲的第1GPU来跑你的程序，修改CUD
报错解决：RuntimeError: CUDA out of memory.
博学而笃志，切问而近思。
10-26 6603
报错解决：RuntimeError: CUDA out of memory.
RuntimeError: CUDA out of memory. 错误日志
A_Tu_daddy的博客
04-08 1209
运行代码时出现的错误如下： RuntimeError: CUDA out of memory. Tried to allocate 2.00 MiB (GPU 0; 4.00 GiB total capacity; 2.91 GiB already allocated; 166.40 KiB free; 2.93 GiB reserved in total by PyTorch) 看了一下自己...
【报错解决】RuntimeError: CUDA error: out of memory（已解决）
weixin_44502754的博客
03-29 1424
【报错解决】RuntimeError: CUDA error: out of memory（已解决）
模型推理runtimeerror: cuda out of memory
09-17
模型推理中出现"RuntimeError: CUDA out of memory"错误是因为在GPU上使用的显存不足。这个错误通常发生在模型的输入数据量过大或模型占用的显存资源过多时。 解决这个问题可以采用以下方法： 1. 减少批处理大小：可以通过减少每次推理时的图像批处理大小来减少内存消耗。较小的批处理大小会减少每个批处理所需的显存量。 2. 减少模型的参数量：如果模型的参数量过大，可以尝试减少参数量来缓解显存不足的问题。可以通过减少模型的深度、宽度或者使用降低维度的技术（如降低卷积核的尺寸）来减少参数量。 3. 使用更高效的模型：可以考虑使用比原始模型更加轻量级和高效的模型结构。例如，可以使用MobileNet、EfficientNet等模型来代替较重的ResNet、VGG等模型。 4. 降低精度：可以尝试将模型的参数精度从32位浮点数降低为16位浮点数，以减少显存的使用量。这通常不会对模型的性能产生显著的影响，但会大幅度减少显存的使用。 5. 使用更大的显存：如果以上方法无法解决问题，可以考虑更换具有更大显存容量的GPU设备来运行模型推理。 总之，修复"RuntimeError: CUDA out of memory"错误的主要思路是通过减少模型参数量、降低精度、优化模型结构或减少输入数据量来减少GPU显存的使用。根据具体问题情况选择适当的解决方法，以确保模型能够在GPU上正常运行。
评论 48
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

雷恩Layne

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值