【PyTorch问题】CUDA out of memory. Tried to allocate 4.69 GiB (GPU 0； 8.00 GiB total capacity...略

已于 2022-12-08 14:00:12 修改
阅读量4.4k 收藏 1
点赞数 1
分类专栏： PyTorch 杂谈 文章标签： pytorch
于 2021-04-04 20:22:56 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xiaoxiao_ziteng/article/details/115432763
版权

问题描述：RuntimeError: CUDA out of memory. Tried to allocate 4.69 GiB (GPU 0; 8.00 GiB total capacity; 5.21 GiB already allocated; 997.56 MiB free; 5.27 GiB reserved in total by PyTorch)

问题详情：在一次传入500多样本的时候，显示CUDA内存空间不足，主要在与于数据传入较大，在不能实际提升硬件的条件下可减少一次传入GPU的数据量，即减少batch size

解决方法：减小 batch size 的大小

其他可能的解决方法：

1）减小模型规模

2）测试新样本时使用 torch.no_grad() 

等等

（仅供参考，不时补充）

冰糖不在家
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 2
    评论
专栏目录
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
Pytorch 解决自定义子Module .cuda() tensor失败的问题
09-16
主要介绍了Pytorch 解决自定义子Module .cuda() tensor失败的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
RuntimeError: CUDA out of memory. 已解决
Sea__c的博客
01-11 2021
RuntimeError: CUDA out of memory. 已解决
LLM - CUDA out of memory. 到底怎么事
BITDDD小栈
08-10 1816
torch.cuda.OutOfMemoryError: CUDA out of memory. 报错日志分析与解决。
【程序错误-显存不足】RuntimeError: CUDA out of memory. Tried to allocate 4.00 GiB
最新发布
闪闪发光的博客
04-29 776
使用更低精度的数据类型：将模型参数和激活值从32位浮点数（float32）转换为16位浮点数（float16），可以减少显存的使用。减少每次训练或推理时的批次大小，以降低显存的需求。较小的批次大小可能会增加训练时间，但可以减少显存压力。如果你使用的是大型模型，可以尝试减少模型的大小，以减少显存使用量。如果你有多个GPU可用，可以尝试使用多卡训练。这样可以将模型的不同部分分配到不同的GPU上，从而减少单个GPU上的显存需求。在报错的哪一行代码的上面，加上下面两行代码，释放无关的内存。
YOLOX训练：显存足够，但依旧CUDA out of memory（Tried to allocate 5.58 GiB，8.00 GiB total capacity，6.40 GiB free）
ELSA001的博客
10-20 1万+
刚刚我尝试训练自己的yolox_s模型，但我batch_size不管改成多少，甚至改成1，都直接报CUDA out of memory，我很苦恼，这里明明显示我的显存是足够的，但是依旧OOM。 训练命令如下： (mypytorch) E:\YOLOX>python tools/train.py -f exps/example/yolox_voc/yolox_voc_s_bm.py -d 1 -b 2 --fp16 -o -c weights/yolox_s.pth 我在这里加载了GitHub的预训练
报错解决：RuntimeError: CUDA out of memory.
博学而笃志，切问而近思。
10-26 6324
报错解决：RuntimeError: CUDA out of memory.
解决方法：RuntimeError: CUDA out of memory. Tried to allocate ... MiB
qq_44504069的博客
05-11 1万+
RuntimeError: CUDA out of memory. Tried to allocate 978.00 MiB (GPU 0; 15.90 GiB total capacity; 14.22 GiB already allocated; 167.88 MiB free; 14.99 GiB reserved in total by PyTorch)
解决CUDA out of memory. Tried to allocate 11GiB (GPU 0； 32GiB total capacity； 18GiB already
justwaityou1314的博客
05-17 3814
凯哥英语视频 今天用浪潮服务器跑模型遇到一个报错 CUDA out of memory. Tried to allocate 11GiB (GPU 0; 32GiB total capacity; 18GiB already 说是显存不足 一般来说就是 batch_size 过大 最优解决方案, 直接先把batch_size改为1,然后慢慢放大 这样的话, 1可以迅速判断是否是显存问题报错, 2重拾信心啊啊啊 另外,记录一下查看显存的命令和调用运行的命令吧 别的也没啥说的 ok，那就这样吧~ 欢迎各位大.
RuntimeError: CUDA out of memory
梁小憨憨的博客
02-12 3390
今天在训练模型的时候突然报了显存不够的问题，然后分析了一下，找到了解决的办法，这里记录一下，方便以后查阅。 **注**：以下的解决方案是在**模型测试**而不是模型训练时出现这个报错的！
Pytorch GPU显存充足却显示out of memory的解决方式
09-18
今天小编就为大家分享一篇Pytorch GPU显存充足却显示out of memory的解决方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
pytorch查看torch.Tensor和model是否在CUDA上的实例
09-18
有时，开发者可能会遇到GPU利用率低下的问题，这可能是由于数据处理、模型加载或特定运算未正确分配到GPU上导致的。本文将通过一个实例来讲解如何检查`torch.Tensor`和模型是否已经放在CUDA上运行。 首先，我们可以...
浅谈pytorch 模型 .pt, .pth, .pkl的区别及模型保存方式
09-16
主要介绍了浅谈pytorch 模型 .pt, .pth, .pkl的区别及模型保存方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
【踩坑记录】RuntimeError: CUDA out of memory. Tried to allocate 376.00 MiB (GPU 0； 15.78 GiB total capacit
vector的博客
08-28 2695
RuntimeError: CUDA out of memory. Tried to allocate 376.00 MiB (GPU 0; 15.78 GiB total capacity; 13.66 GiB already allocated; 221.50 MiB free; 14.14 GiB reserved in total by PyTorch)
爆显存：RuntimeError: CUDA out of memory. Tried to allocate 5.66 GiB (GPU 0； 12.00 GiB total capacity； 2
Python领域优质萌新创作者
06-13 3453
使用更低精度的数据类型：将模型参数和激活值从32位浮点数（float32）转换为16位浮点数（float16），可以减少显存的使用。你的GPU有12.00 GiB的总容量，但已经有2.88 GiB的显存被使用了，剩余1.68 GiB是可用的，而PyTorch总共预留了8.22 GiB的显存。2、减少模型大小：如果你使用的是大型模型，可以尝试减少模型的大小，以减少显存使用量。较小的批次大小可能会增加训练时间，但可以减少显存压力。这样可以将模型的不同部分分配到不同的GPU上，从而减少单个GPU上的显存需求。
RuntimeError: CUDA out of memory. Tried to allocate 600.00 MiB (GPU 0； 23.69 GiB total capacity)
小王同学的博客
11-21 4364
RuntimeError: CUDA out of memory. Tried to allocate 600.00 MiB (GPU 0; 23.69 GiB total capacity; 21.82 GiB already allocated; 115.25 MiB free; 21.87 GiB reserved in total by PyTorch) 运行时错误：CUDA 内存不足。 尝试分配 600.00 MiB（GPU 0；23.69 GiB 总容量；21.82 GiB 已分配；115.25
CUDA out of memory.(已解决）
热门推荐
weixin_43398590的博客
04-08 15万+
CUDA out of memory.(已解决） 有时候我们会遇到明明显存够用却显示CUDA out of memory，这时我们就要看看是什么进程占用了我们的GPU。 按住键盘上的Windows小旗子+R在弹出的框里输入cmd，进入控制台。 nvidia-smi 这个命令可以查看GPU的使用情况，和占用GPU资源的程序。我们看到python再运行完以后没有释放资源导致GPU的内存满了。 可以...
大概率（5重方法）解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
定期分享我的发现和想法，感谢你的陪伴和支持
03-24 1万+
主机中的内存，有两种存在方式，一是锁页，二是不锁页，锁页内存存放的内容在任何情况下都不会与主机的虚拟内存进行交换（注：虚拟内存就是硬盘），而不锁页内存在主机内存不足时，数据会存放在虚拟内存中。显卡中的显存全部是锁页内存,当计算机的内存充足的时候，可以设置pin_memory=True。pin_memory就是锁页内存，创建DataLoader时，设置pin_memory=True，则意味着生成的Tensor数据最开始是属于内存中的锁页内存，这样将内存的Tensor转义到GPU的显存就会更快一些。
如何解决“RuntimeError: CUDA Out of memory”问题
AI公园
03-22 9404
点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”作者：Nitin Kishore编译：ronghuaiyang导读一些可以尝试的解决“RuntimeError: CUDA Out of memory”的方案。当遇到这个问题时，你可以尝试一下这些建议，按代码更改的顺序递增：减少“batch_size”降低精度按照错误说的做清除缓存修改模型/训练在这些选项中，如果你使用的是预训练模型，则最容...
CUDA out of memory. Tried to allocate 4.83 GiB
09-05
当出现"CUDA out of memory. Tried to allocate 4.83 GiB"的错误时，这意味着在尝试分配4.83 GiB的显存时遇到了不足的问题。这种错误通常发生在使用GPU进行深度学习训练时。 解决这个问题的方法有几种。首先，你可以尝试减小batch_size来降低显存的使用量。通过减少每次迭代的样本数，可以减少显存的需求。另外，你可以尝试使用更小的模型或减少模型的复杂性，以减少内存的占用。 此外，还可以通过将一些中间结果从GPU内存中移动到主机内存（CPU）来释放显存。使用PyTorch的to()方法将张量转移到CPU上可以实现这一点。 另一个可能的解决方法是升级你的GPU显存，以便能够容纳更大的模型和批处理大小。 最后，如果你的torch版本与预训练模型的版本不匹配，也可能会导致此错误。请确保torch版本与模型版本兼容。 综上所述，要解决"CUDA out of memory"的错误，可以尝试以下方法： 1. 减小batch_size。 2. 缩小模型或减少模型复杂性。 3. 将一些中间结果从GPU内存中移动到CPU内存。 4. 升级GPU显存。 5. 确保torch版本与预训练模型版本兼容。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [复现monodepth2过程中碰到的错误3：RuntimeError: CUDA out of memory.](https://blog.csdn.net/weixin_51092297/article/details/123181936)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *2* [记录CUDA error: out of memory的成功解决](https://blog.csdn.net/weixin_54800645/article/details/131055375)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *3* [pytorch模型提示超出内存RuntimeError: CUDA out of memory.](https://download.csdn.net/download/weixin_38552305/14884908)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

冰糖不在家

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值