【报错笔记】pytorch RuntimeError: CUDA out of memory.

最新推荐文章于 2024-06-14 23:28:51 发布

日月岂几禾口火月

最新推荐文章于 2024-06-14 23:28:51 发布

阅读量2.9k

点赞数

分类专栏：报错笔记文章标签： python 深度学习 pytorch

本文链接：https://blog.csdn.net/qq_55407202/article/details/123695015

版权

报错笔记专栏收录该内容

2 篇文章 0 订阅

订阅专栏

本人也是新人小白一枚，主要做小目标检测，写博客也是为了多交流也便于记录，欢迎探讨指导！

【问题描述】

本人在尝试使用Efficientdet做目标检测运行train.py时一直出现报错

RuntimeError: CUDA out of memory. Tried to allocate 64.00 MiB (GPU 0; 4.00 GiB total capacity; 245.95 MiB already allocated; 2.45 GiB free; 266.00 MiB reserved in total ......)

【解决方案】

看到out of memory或者OOM第一反应可以尝试调小batchsize（ps：注意有时候存在BN层的时候batchsize最小只能为2，不能为1），但是这种方法在此处没用,主席仔细看报错信息发现显存其实是够用的，这里应该就不是batchsize的问题。

考虑更改num_workers参数（本人的该参数就在train.py中，有的代码设置看在utils的py文件里），这个参数用于设置是否多线程读取数据的，开启后读取的速度会加快，但是如果电脑性能不够也会出现问题，我这里吧num_workers由4改为2就可以正常训练了。

改为2就可以正常训练了：

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

日月岂几禾口火月

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
【报错笔记】pytorch RuntimeError: CUDA out of memory.

pytorch RuntimeError: CUDA out of memory.
复制链接

扫一扫

专栏目录

学习笔记40-Ubuntu下跑Aplaca报错：torch.cuda.0utofMemoryError: CUDA out of memory.解决办法（查看CUDA占用情况&清除GPU缓存）

LZL2020LZL的博客

04-21

5943

发现在执行程序时仅使用极少的内存（图片-1%），因此不是内存不足，考虑可能是缓存爆了！

成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0； 2.00 GiB to

近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…

06-02

1万+

成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0; 2.00 GiB total capacity; 1.67 GiB already allocated; 0 bytes free; 1.67 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_s

参与评论您还未登录，请先登录后发表或查看评论

解决大模型训练中的CUDA out of memory

最新发布

weixin_52147110的博客

06-14

653

首先查看了训练 SFTTrainer 中的精度（sft_trainer.py 官方文档 line253）如下，说明只有当模型是4bit且不是 shared QLoRA 时，才会调用 peft_module_casting_to_bf16 函数，将PEFT模块转换为bf16（bfloat16）精度。该模型符合要求，因此去修改peft模块中的参数 bf16=False，但是还是报错，后来逐步检查发现是在模型训练初始阶段设置了bf16，将其改为float16就可以了。，于是尝试做了修改并实现了成功。

pytorch模型提示超出内存RuntimeError: CUDA out of memory.

01-20

跑模型时出现RuntimeError: CUDA out of memory.错误查阅了许多相关内容，原因是：GPU显存内存不够简单总结一下解决方法：将batch_size改小。取torch变量标量值时使用item()属性。可以在测试阶段添加如下代码： with torch.no_grad(): # 停止自动反向计算梯度参考： https://wisdomai.xyz/tool/pytorch/archives/2301 https://ptorch.com/news/160.html 作者：菜叶儿掉啦

解决：RuntimeError: CUDA out of memory. Tried to allocate 64.00 MiB (GPU 0； 4.00 GiB total capacity； 2

universe_R的博客

05-03

3万+

引发pytorch：CUDA out of memory错误的原因有两个： 1.当前要使用的GPU正在被占用，导致显存不足以运行你要运行的模型训练命令不能正常运行解决方法： 1.换另外的GPU 2.kill 掉占用GPU的另外的程序（慎用！因为另外正在占用GPU的程序可能是别人在运行的程序，如果是自己的不重要的程序则可以kill）命令行中输入以下命令，可以查看当前正在GPU运行的程序： nvidia-smi 再根据上面显示的正在运行程序的PID，输入以下查看进程的命令，可以查看到进程的相关信息，包括

RuntimeError: CUDA out of memory. Tried to allocate 64.00 MiB (GPU 0； 10.76 GiB total capacity； 7.64

qq_45128278的博客

02-27

2598

错误原因：使用了CUDA_VISIBLE_DEVICES指定了空闲的3090显卡，但仍报错，原因是batchsize设置得太高，设置了128. 解决方案：降低到64即可。或者使用两张及以上的卡。

pytorch出现RuntimeError: CUDA out of memory.--------MDSR

qq_40759170的博客

08-08

1490

在运行MDSR程序时，分别两次出现CUDA out of memory. 第一次是在数据训练的过程中，由于Batch_size设置过大，导致内存不足，将其设置较小即可解决。第二次是在测试过程中，由于是直接导入训练好的模型，不需要再次进行反向传播。因此在进行前向传播之前加入 with torch.no_grad(): 即可解决。即 with torch.no_grad(): ...

Pytorch:出现RuntimeError: CUDA out of memory.的解决方案

qq_35896136的博客

06-03

5292

调用VGG网络的训练时候出现了这个问题报错信息： RuntimeError: CUDA out of memory. Tried to allocate 823.88 MiB (GPU 0; 7.93 GiB total capacity; 6.96 GiB already allocated; 189.31 MiB free; 10.26 MiB cached) 从报错信息可以看到，是因为GPU内存不足。因为VGG网络是一个参数很庞大的网络，所以在训练过程中，需要存储大量的参数和损失函数信息等等。.

如何解决“RuntimeError: CUDA Out of memory”问题

学-> 思->用

06-13

780

当遇到这个问题时，你可以尝试一下这些建议，按代码更改的顺序递增：减少“batch_size”降低精度按照错误说的做清除缓存修改模型/训练在这些选项中，如果你使用的是预训练模型，则最容易和最有可能解决问题的选项是第一个。

CUDA out of memory. Tried to allocate 64.00 MiB

08-25

- *1* [【报错笔记】pytorch RuntimeError: CUDA out of memory.](https://blog.csdn.net/qq_55407202/article/details/123695015)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_...

pytorch cuda入门

wulimmya的博客

11-28

5072

刚刚装好一切配置，手头杂活快速清理了来迎接cuda入门的抽打······ pytorch是一个Python科学计算包，它的主要受众是两类人：想找个numpy的替代品，好利用GPU的强大的人找个最灵活最快速的深度学习平台的人本文翻译和参考自pytorch官方教程文章目录torch.Tensorbackprop举例Function类autogradtorch.nn损失函数torchvisi...

PyTorch代码错误笔记一

gengjuan520的博客

04-25

1610

PyTorch代码错误笔记文章目录PyTorch代码错误笔记前言1、RuntimeError: stack expects each tensor to be equal size, but got [1, 224, 224] at entry 0 and [3, 224, 224] at entry 322、BrokenPipeError: [Errno 32] Broken pipe3、RuntimeError: CUDA out of memory. Tried to allocate 392.00

[PyTorch 学习笔记] 7.3 使用 GPU 训练模型

张贤的博客

09-19

870

本章代码： https://github.com/zhangxiann/PyTorch_Practice/blob/master/lesson7/cuda_use.py https://github.com/zhangxiann/PyTorch_Practice/blob/master/lesson7/multi_gpu.py 这篇文章主要介绍了 GPU 的使用。在数据运算时，两个数据进行运算，那么它们必须同时存放在同一个设备，要么同时是 CPU，要么同时是 GPU。而且数据和模型都要在同一个设备.

解决pytorch的RuntimeError: CUDA out of memory.以及loss出现超级大的原因

weixin_44438120的博客

07-17

5930

当我在完成第一个epoch的训练转入第一个epoch的验证的时候，跑了没多久pytorch就报错内存不足。然后上网查了一些解决方案，其中有使用pytorch的多GPU并行的方案来解决： if t.cuda.device_count() > 1: model = nn.DataParallel(model) if opt.use_gpu: model.cuda() 然而其带来的结果也就是多跑了几组batchsize的验证。就继续报错。接着又尝试了pytorch fo

pytorch遇见RuntimeError: CUDA out of memory的解决

引爆激情

07-24

3788

最近在用pytorch做项目时，本人遇到RuntimeError: CUDA out of memory的错误，下面就此问题做一个记录和分享，并谈谈今后遇到爆显存问题的解决思路。目录 1.查看是否其他程序占用显存 2.查看pytorch和cuda是否匹配 3.cuda.empty_cache()方法 3.当前项目代码是否还使用了keras/tensorflow 4.调小batch_size和通过程序优化显存 1.查看是否其他程序占用显存遇到此类错误后，对于py格式的文件来说，程序会进行终

调试pytorch时出现的问题：torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 64.00 MiB (GPU 0；

peachofchangan的博客

03-14

1152

这时可以观察之前的代码中的data.to(device)操作，观察里面的数据是否太大，一次性放进去会导致上述问题，将放进去的数据缩小即可解决。但是后续维度的改变还需要代码的变动。这个问题就是显存爆炸了，我们放进去的数据，将显存占满了，此时将batch_size调到1都无法解决问题，证明与batch_size无关。

torch.cuda.OutOfMemoryError: CUDA out of memory.