显存不足问题（OOM、RuntimeError: CUDA out of memory）

已于 2022-04-01 16:19:34 修改
阅读量2k 收藏 8
点赞数 1
分类专栏： AI 文章标签： pytorch
于 2022-04-01 16:15:06 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sun_raiser/article/details/123900585
版权

显存不足问题（OOM、RuntimeError: CUDA out of memory）。

记录一次pytorch yolov3爆显存（windows使用任务管理器查看显存为4G）。在这里插入图片描述

2G显存：SSD、YOLOV4-TINY
4G显存：YOLOV3
6G显存：YOLOV4、Retinanet、M2det、Efficientdet、Faster RCNN等
8G+显存：随便选吧。
解决方法：减小batch_size，需要注意的是，受到BatchNorm2d影响，batch_size不可为1，至少为2。

问：为什么提示 RuntimeError: CUDA out of memory. Tried to allocate 52.00 MiB (GPU 0; 15.90 GiB total capacity; 14.85 GiB already allocated; 51.88 MiB free; 15.07 GiB reserved in total by PyTorch)？
答：这是pytorch中出现的，爆显存了，同上。

 # 相关代码仓库可以参考下表所示

相关仓库

模型路径
YoloV3https://github.com/bubbliiiing/yolo3-pytorch
Efficientnet-Yolo3https://github.com/bubbliiiing/efficientnet-yolo3-pytorch
YoloV4https://github.com/bubbliiiing/yolov4-pytorch
YoloV4-tinyhttps://github.com/bubbliiiing/yolov4-tiny-pytorch
Mobilenet-Yolov4https://github.com/bubbliiiing/mobilenet-yolov4-pytorch
YoloV5https://github.com/bubbliiiing/yolov5-pytorch
YoloXhttps://github.com/bubbliiiing/yolox-pytorch
Sun_Raiser
关注
专栏目录
RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total capacity； 1.34
风口IT猪的成长录
08-04 5298
RuntimeError: CUDA out of memory.1. with torch.no_grad()2. os.environ["CUDA_VISIBLE_DEVICES"]3. torch.cuda.empty_cache()4. batch_size=1 1. with torch.no_grad() 注意pytorch在test时，一定要加上: with torch.no_grad(): outputs = Net_(inputs) ---错误代码的位置。 不计算梯度，否则会使显存加倍
pytorch OOM multi-task error: cuda out of memory
Hello Word!
07-09 462
class _Decoder(nn.Module): def init(self, output_size): super(_Decoder, self).init() self.layers = nn.Sequential( # nn.Linear(12888, 512), nn.Linear(8 * 112 * 112, 512), nn.BatchNorm1d(512), nn.ReLU(), nn.Linear(512, output_size) ) def forward(self, x):
用yolov3 VOC训练自己的数据时出现的问题及解决方法
weixin_41659029的博客
04-11 4430
1.问题：各种out of memory 可能的原因：电脑显存不够，batch比较大，或者开了random = 1的时候带不动. 解决方法：darknet/cfg/yolov3-voc.cfg 文件最后面random = 0;，如果还不行就减小batch，以及减小batch/subdivisions。 2.问题：训练过程中出现大量的nan -nan,loss,avg啥啥都是nan 可能的原...
OutOfMermory系列
闻臻
12-09 241
java.lang.StackOverflowError（方法的深入的调用加载，递归调用，栈内存512m~1024m） java.lang.OutofMemoryError: Java heap space（堆内存不够用导致） java.lang.OutofMemoryError: GC overhead limit exeeded（GC回收时间过长，几乎一直在进行垃圾回收） java.lang....
运行YOLOv3报错： CUDA Error: out of memory
weixin_44401286的博客
11-05 1643
报错现象： 19 conv 128 1 x 1 / 1 76 x 76 x 256 -> 76 x 76 x 128 0.379 BFLOPs 20 CUDA Error: out of memory darknet: ./src/cuda.c:36: check_error: Assertion `0' failed. 已放弃 (核心已转储) 解决办法： 这是由于显存不足导致的报错，打开yolov3.cfg文件，修改subdivisions，显存不足时，
《南溪的目标检测学习笔记》——训练PyTorch模型遇到显存不足的情况怎么办(“OOM: CUDA out of memory“)
热门推荐
墨门
11-04 1万+
1 前言 在目标检测中，可能会遇到显存不足的情况，我们在这里记录一下解决方案； 2 如何判断真正是出现显存（不是“软件误报”） 当前需要分配的显存在200MiB以下， 例如： RuntimeError: CUDA out of memory. Tried to allocate 60.00 MiB (小于200MiB) (GPU 0; 10.76 GiB total capacity; 8.71 GiB already allocated; 59.00 MiB free; 8.81 GiB reserve
YOLOv3遇到的问题
m0_49089298的博客
06-10 595
在运行YOLOv3时，遇到的问题及解决方法如下 （1）提示显存不足 解决方法如下： 1.打开yolov3.cfg gedit darket/cfg/yolov3.cfg 2.修改配置 把第6行的batch改小 比如 batch=64 ------------>batch=20 参考文献为： https://www.codeleading.com/article/652372503/ ...
解决Pytorch 训练与测试时爆显存(out of memory)的问题
09-18
在使用PyTorch进行深度学习模型的训练和测试过程中，可能会遇到“显存溢出”（Out of Memory，OOM）的问题。这个问题通常是由于GPU内存不足以存储所有计算所需的张量而导致的。以下是一些解决PyTorch训练与测试时...
python运行提示显卡内存不足_Pytorch GPU显存充足却显示out of memory的解决方式
weixin_39890327的博客
12-08 1万+
Pytorch GPU显存充足却显示out of memory的解决方式今天在测试一个pytorch代码的时候显示显存不足，但是这个网络框架明明很简单，用CPU跑起来都没有问题，GPU却一直提示out of memory.在网上找了很多方法都行不通，最后我想也许是pytorch版本的问题，原来我的pytorch版本是0.4.1，于是我就把这个版本卸载，然后安装了pytorch1.1.0，程序就可以...
解决TensorFlow GPU版出现OOM错误的问题
09-18
然而，在使用过程中经常会遇到“Out Of Memory (OOM)”错误，特别是当使用GPU版本进行大规模数据处理或训练大型模型时。本文将深入探讨OOM错误产生的原因以及如何有效地解决这一问题。 #### 问题背景 在进行图像...
YOLOv4训练提示 Out of memory!
安卓 高通 bsp ，同行欢迎交流
10-08 1199
YOLOv4训练提示 Out of memory! 网上的办法如果都解决不了，试试我的这个。 训练时候修改你自己的cfg文件中height和weight，往小改，官方为416，我改成960报以上错误。 height=960 weight=960 根本原因是，输入网络的图片尺寸越大，卷积核计算出最后的tensor的维度会过高，可以理解为参数爆炸，所以YOLO也不能处理过高分辨率的图片。 Think：想一个办法改进？ ...
跑yolov4模型时，显存明明足够却报错说超出显存
WhiteGive__的博客
07-08 1738
原本num_workers=4改成num_workers=2后可以跑。这个问题是因为理论上windows只能单线程nun_workers应该=0，但有的时候也能多线程，num_workers是玄学问题？在解决任务管理器gpu项目中没有cuda这个选项时，重启两三遍之后num_workers=4也可以跑了 ...
YOLO训练模型提示“CUDA_ERROR_OUT_OF_MEMORY”
pts_mjt的博客
11-26 6988
编译好yolov3进行测试时报错 CUDA Error: out of memory darknet: ./src/cuda.c:36: check_error: Assertion `0' failed. 解决办法： 1.CUDA Error: out of memory darknet: ./src/cuda.c:36: check_error: Assertio `0' failed...
OOM异常解决
huangxuanheng的专栏
02-03 1193
02-03 08:56:12.411: E/AndroidRuntime(10137): FATAL EXCEPTION: main 02-03 08:56:12.411: E/AndroidRuntime(10137): java.lang.IllegalStateException: Could not execute method of the activity 02-03 08:56:12
YOLOV ：基于YOLOX，使静态图像对象检测器在视频对象检测方面表现出色，注意力机制的魅力 Loss计算部分
最新发布
qq_64693987的博客
10-12 306
输入是第几个batch、真实框的数量、所有框的数量（5379）、真实框、真实框的类别、每一帧图像的预测框（5376x4）、三个特征图与原图的缩放比、左上角的xy坐标、类别预测（8x5376x30）、框的预测（8x5376x4）、置信度预测（8x5376x1）、类别、图像。3.1.1由于每一个格子有一个预测框，因此计算每一个格子的中心点，判断在真实框和自己设计的4.5x4.5大小的框中的中心点，去除不在这些框中的中心点。1.将在预测框的中心点在真实框和自己设计的4.5x4.5大小框中的预测框选出来。
CUDA out of memory的一种神奇解决方法
jasminefeng的博客
02-24 4170
我的输入样本维度是(1000,12,24,72)，一开始我是这么输入数据的： trainer.train(x_train, t_train, x_val, t_val) 发现必溢出，后来我取出其中400个样本输入： trainer.train(x_train[:400], t_train[:400], x_val, t_val) 发现不溢出了，训练正常，然后我把400删掉，但没删冒号： trainer.train(x_train[:], t_train[:], x_val, t_val) 竟然也没有溢
【YOLOX 论文+源码解读】YOLOX: Exceeding YOLO Series in 2021
qq_38253797的博客
12-07 4424
YOLOX源码解析
YOLO项目服务器配置及云硬盘挂载问题
pengxiang1998的博客
02-02 1558
依次执行就可以，本次博主又换了一个服务器，这次在安装过程中遇到了一些问题，最终也解决了，实验数据集换成了CADCD，输入尺寸为1280x1024，很明显此时的显存占用要比640x640的大了很多，下面是本次GPU使用情况：batch-size为16，迭代次数为200次。在使用这个服务器的过程中意识到每次更换服务器需要重新上传项目和数据集，这让人很苦恼，因此可以采用加装一个云硬盘的方式，这样就不需如此频繁更换了，然而也是刚刚意识到该问题，博主的GPU服务器是硅谷二区的，但并未找到可用区的硬盘，呜呜呜。
解决CUDA out of memory. Tried to allocate 2.10 GiB (GPU 0； 14.76 GiB total capac
weixin_44136501的博客
01-29 1万+
解决CUDA out of memory. Tried to allocate 2.10 GiB (GPU 0; 14.76 GiB total capac......问题解决方案 问题 在进行网络训练时报错 CUDA out of memory. Tried to allocate 2.10 GiB (GPU 0; 14.76 GiB total capacity; 1.06Gib already allocated; 138.44Mib free; 18.32Mib cached) 解决方案 降低ba
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Sun_Raiser

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值