一步真实解决RuntimeError: CUDA out of memory.

已于 2022-05-15 19:33:24 修改
阅读量6.4k 收藏 3
点赞数
分类专栏： 真实解决Bug
于 2022-05-15 19:18:18 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Thebest_jack/article/details/124786402
版权

PyTorch CUDA内存溢出 batch_size调整 GPU使用情况 nvidia-smi
关键词由CSDN通过智能技术生成

你是不是在Pycharm等编译器和Colab等服务器上运行xxx.py

今天用pytorch训练神经网络时

出现下面的这个问题

那么我们跟着错误去上面的提示信息找方法

提示的是CUDA out of memory.可以知道咱们设置的内存使用超过了cuda的限制

那么我们将batch_size降低，将数值调小，然后再试一下。

一般是最初设置的一半，不行的话在降低一半。。。总有一个数值适合你~

然后运行下xxxx.py，发现问题解决~

备注一下：：：

输入 nvidia-smi，会显示GPU的使用情况，以及占用GPU的应用程序

在这里插入图片描述

 小秘诀，浅浅记录录下吧

更多干货，可以关注公众号“蓝胖胖干货”，教你账号注册，快速上网等秘籍~~~咱们一起成长！

蓝胖胖▸
关注
专栏目录
RuntimeError: CUDA out of memory.
网易搬砖选手
04-10 1万+
我认为对于 GPU 内存较低的 PyTorch 用户来说，这是一个非常常见的消息：X MiB free;X cached)但似乎效果不是很大。虽然为清除占用的cuda内存提供了一个很好的选择，我们还可以通过使用手动清除未使用的变量，但在使用这些命令后，错误可能会再次出现，因为 pytorch 实际上并没有清除内存，而是清除了对变量占用的内存的引用。因此，重新启动内核后减小batch_size并找到最佳batch_size是最好的选择（但有时不是一个非常可行的选择）。其中，两个参数都是可选的。
RuntimeError: CUDA out of memory. Tried to allocate 1.77 GiB？如何解决
**My Coding Family**
05-27 992
ok，以上就是我这期的Bug修复内容啦，如果还想查找更多解决方案，你可以看看我专门收集Bug及提供解决方案的专栏「Bug调优」，都是实战中碰到的Bug，希望对你有所帮助。到此，咱们下期拜拜。码字不易，如果这篇文章对你有所帮助，帮忙给bugj菌来个，您的支持就是我坚持写作分享知识点传播技术的最大动力。「猿圈奇妙屋」；
RuntimeError: CUDA out of memory. Tried to allocate 32.00 MiB (GPU
weixin_43639369的博客
02-24 9875
RuntimeError: CUDA out of memory. Tried to allocate 32.00 MiB (GPU）1. 问题描述2. 解决办法 1. 问题描述 Pytorch，GPU显存明明够用，为什么还报错呢？发现此时减小batch_size 同样是没用的。 根本原因是代码指定的GPU与实际使用的GPU不一致。你以为代码在1上跑，实际上是在已经有代码运行的其他gpu跑，因此显示显存不足。 2. 解决办法 让自己指定的gpu与实际使用的对应一致即可。 比如，现在0，2，3号GPU已经在
使用多卡GPU训练时遇到的错误
最新发布
Z20040913sheng的博客
08-05 753
使用多卡GPU训练时遇到的错误
报错解决：RuntimeError: CUDA out of memory.
博学而笃志，切问而近思。
10-26 6721
报错解决：RuntimeError: CUDA out of memory.
【程序错误-显存不足】RuntimeError: CUDA out of memory. Tried to allocate 4.00 GiB
闪闪发光的博客
04-29 1148
使用更低精度的数据类型：将模型参数和激活值从32位浮点数（float32）转换为16位浮点数（float16），可以减少显存的使用。减少每次训练或推理时的批次大小，以降低显存的需求。较小的批次大小可能会增加训练时间，但可以减少显存压力。如果你使用的是大型模型，可以尝试减少模型的大小，以减少显存使用量。如果你有多个GPU可用，可以尝试使用多卡训练。这样可以将模型的不同部分分配到不同的GPU上，从而减少单个GPU上的显存需求。在报错的哪一行代码的上面，加上下面两行代码，释放无关的内存。
pytorch 使用GPU报错 ->RuntimeError: CUDA out of memory. Tried to allocate 1.50 GiB
热门推荐
qq_36213248的博客
07-11 5万+
RuntimeError: CUDA out of memory. Tried to allocate 1.50 GiB (GPU 0; 10.92 GiB total capacity; 9.79 GiB already allocated; 539.44 MiB free; 10.28 MiB cached) 本人的pytorch的版本是1.1.0,这个是我pytorch版本更新后，我已开的...
解决方法：RuntimeError: CUDA out of memory. Tried to allocate ... MiB
qq_44504069的博客
05-11 1万+
RuntimeError: CUDA out of memory. Tried to allocate 978.00 MiB (GPU 0; 15.90 GiB total capacity; 14.22 GiB already allocated; 167.88 MiB free; 14.99 GiB reserved in total by PyTorch)
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
Windows RuntimeError: CUDA out of memory.
qq_40630902的博客
08-16 2383
问题描述 RuntimeError: CUDA out of memory. Tried to allocate 244.00 MiB (GPU 0; 2.00 GiB total capacity; 1014.91 MiB already allocated; 0 bytes free; 1.19 GiB reserved in total by PyTorch) Windows 报错CUDA超出内存，但是GPU利用率为0 +----------------------------------------
RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total capacity； 1.34
风口IT猪的成长录
08-04 5230
RuntimeError: CUDA out of memory.1. with torch.no_grad()2. os.environ["CUDA_VISIBLE_DEVICES"]3. torch.cuda.empty_cache()4. batch_size=1 1. with torch.no_grad() 注意pytorch在test时，一定要加上: with torch.no_grad(): outputs = Net_(inputs) ---错误代码的位置。 不计算梯度，否则会使显存加倍
RuntimeError: CUDA out of memory.Tried to allocate 20.00 MiB
gyl1050097468的博客
09-22 1万+
最近遇见问题解决记录：RuntimeError: CUDA out of memory.Tried to allocate 20.00 MiB 大概总结了几种解决方法，大家可以试试： 1.将batchsize改小一些，直接改为1试试，如果可以了，再换回自己想要的size试试。我本身就是size设置为1的，试了很多方法，然后我尝试性的改为2，竟然就可以用了，大家可以多尝试几个size，不一定是更小的batch size。 2.参考了别人的回答 在报错哪一行前面加上下面两行：释放无关的内存： if hasat
RuntimeError:CUDA out of memory.Tried to allocate 20.00MiB.
m0_61985580的博客
04-23 1万+
这是我遇到的问题，刚开始的时候怎么也解决不了。 然后我去搜了一下解决方法，具体方法如下： 方法一： 仅需减小batchsize 改文件的配置cfg的batchsize=1，一般在cfg文件下的查找batch或batchsize，将batchsize调小后，再次运行，类似于改下面 方法二 ： 上述方法还没解决，不改batchsize，可以考虑下面的方法的链接 不计算梯度： ps: 在报错的哪一行代码的上面，加上下面一行代码，不计算梯度 withtorch.no_grad() 不..
pytorch解决RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0； 4.00 G
于笨笨的博客
03-17 2641
pytorch报错
RuntimeError: CUDA error: out of memory
weixin_39450145的博客
07-06 1661
RuntimeError: CUDA error: out of memorycuda不够用，需要换用显存更大的显卡。。。换用显存更大的显卡问题应该就解决了。
RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB解决方案
qq_22721735的博客
08-16 4101
RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB解决方案
RuntimeError: CUDA out of memory. Tried to allocate 32.00 MiB||查看GPU内存
Claire_wanqing的博客
07-20 5388
关于搜到的调用GPU的方法，源代码里有，所以不是这个问题。batchsize原来是8，改为1，可以运行了。2.另一个方法是修改batchsize。可以看到电脑的运行内存，
torch.cuda.OutOfMemoryError: CUDA out of memory.
Hello_World1023的博客
04-25 4万+
发现gpu:0显存被PID:19409程序大量占用, 报错应该是默认在gpu:0训练导致显存不足, 接着查看gpu:0上程序所属用户(如果不是师兄的我就kill了)设置完成后查看显存占用情况可以看到, gpu:1显存占用马上上升了, 不影响其他gpu卡的显存。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。发现gpu:1空闲, 指定gpu:1上训练模型, 有多种方法,
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0； 6.00 GiB total
Dxy1239310216的博客
05-24 2562
PyTorch提供了自动混合精度（Automatic Mixed Precision, AMP）支持，这可以通过使用较小的数据类型（如半精度浮点数）来减少内存使用，同时保持模型训练的准确性。：如果你有多个GPU，你可以使用PyTorch的DataParallel或DistributedDataParallel来在多个GPU上并行训练你的模型。但是，请注意这通常是PyTorch内部用于管理内存分配的参数，并且可能需要深入了解PyTorch的内存管理机制才能正确使用。：这是最常见的解决方法。
RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB
07-27
- *1* [已解决yolov5报错RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB](https://blog.csdn.net/Code_and516/article/details/129798540)[target="_blank" data-report-click={"spm":"1018.2226....
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

蓝胖胖▸

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值