解决CUDA out of memory. Tried to allocate 2.10 GiB (GPU 0； 14.76 GiB total capac

最新推荐文章于 2024-08-17 22:11:19 发布

微笑~你好

最新推荐文章于 2024-08-17 22:11:19 发布

阅读量1.3w

点赞数 4

文章标签：深度学习机器学习

本文链接：https://blog.csdn.net/weixin_44136501/article/details/113408489

版权

解决CUDA out of memory. Tried to allocate 2.10 GiB (GPU 0; 14.76 GiB total capac......

- 问题
- 解决方案

参考了一篇博文 https://blog.csdn.net/weixin_32393347/article/details/104395179

问题

在进行网络训练时报错

CUDA out of memory. Tried to allocate 2.10 GiB (GPU 0; 14.76 GiB total capacity; 1.06Gib already allocated; 138.44Mib free; 18.32Mib cached)

解决方案

降低batch_size大小或在报错代码前加上：释放无关内存

if hasattr(torch.cuda, 'empty_cache'):
	torch.cuda.empty_cache()

关注博主即可阅读全文

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

微笑~你好

关注关注

4
点赞
踩
4

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0； 2.00 GiB to

近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…

06-02

1万+

成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0; 2.00 GiB total capacity; 1.67 GiB already allocated; 0 bytes free; 1.67 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_s

RuntimeError: CUDA out of memory. Tried to allocate 1.77 GiB？如何解决

**My Coding Family**

05-27

998

ok，以上就是我这期的Bug修复内容啦，如果还想查找更多解决方案，你可以看看我专门收集Bug及提供解决方案的专栏「Bug调优」，都是实战中碰到的Bug，希望对你有所帮助。到此，咱们下期拜拜。码字不易，如果这篇文章对你有所帮助，帮忙给bugj菌来个，您的支持就是我坚持写作分享知识点传播技术的最大动力。「猿圈奇妙屋」；

参与评论您还未登录，请先登录后发表或查看评论

Llama3-8B基于peft+trl进行SFT监督微调（命令行模式）

zhujiahui622的专栏

04-29

1777

4月19日Meta终于发布了Llama3，包含8B和70B两种模型，本次我们就来试着用trl命令行微调下8B的模型。

解决方法：RuntimeError: CUDA out of memory. Tried to allocate ... MiB

qq_44504069的博客

05-11

1万+

RuntimeError: CUDA out of memory. Tried to allocate 978.00 MiB (GPU 0; 15.90 GiB total capacity; 14.22 GiB already allocated; 167.88 MiB free; 14.99 GiB reserved in total by PyTorch)

CUDA Out of Memory ：CUDA内存不足的完美解决方法

最新发布

沉淀、分享、成长，让自己和他人都能有所收获！

08-17

2万+

CUDA Out of Memory 🛑：CUDA内存不足的完美解决方法摘要 📝引言 🌟什么是 CUDA Out of Memory 错误？🤔基本定义常见场景常见的CUDA内存不足场景及解决方案 🔍1. 模型过大导致显存不足2. 批量数据过大3. 显存没有释放4. 多线程或异步操作占用大量显存深入案例分析：如何避免和处理CUDA内存不足 🛠️1. 代码优化示例2. 累积梯度示例🤔 QA环节小结 📚表格总结 📊未来展望 🚀参考资料 📚博主默语带您 Go to New World.✍个人主页——

解决：CUDA out of memory: Tried to allocate 12.11 GiB......

qq_39654162的博客

07-03

1205

解决：运行推理前：export PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:32。

CUDA out of memory，但是显存明明有大量剩余

weixin_45788091的博客

04-27

3441

CUDA out of memory，但是显存明明有大量剩余。

CUDA out of memory. Tried to allocate 150.00 MiB (GPU 0； 4.00 GiB total capacity； 2.24 GiB already a

wyyyyyyyy_的博客

04-30

2001

在报错的哪一行代码的上面，加上下面一行代码，不计算梯度 with torch.no_grad()

RuntimeError: CUDA out of memory

梁小憨憨的博客

02-12

3699

今天在训练模型的时候突然报了显存不够的问题，然后分析了一下，找到了解决的办法，这里记录一下，方便以后查阅。 **注**：以下的解决方案是在**模型测试**而不是模型训练时出现这个报错的！

(39)CUDA out of memory. Tried to allocate 76.00 MiB (GPU 0； 10.76 GiB total capacity； 8.45 GiB ...

weixin_40227656的博客

03-19

7492

问题描述：在两块2080Ti显卡上训练去雾算法FFANet(gps=3, blocks=19)，batch=2恰好能够正常训练，训练结束进行模型测试，每次读取一张图片进行模型推理，结果报错显存不够： RuntimeError: CUDA out of memory. Tried to allocate 76.00 MiB (GPU 0; 10.76 GiB total capacity; 8.60 GiB already allocated; 75.19 MiB free; 8.61 GiB res

RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total capacity； 1.34

风口IT猪的成长录

08-04

5241

RuntimeError: CUDA out of memory.1. with torch.no_grad()2. os.environ["CUDA_VISIBLE_DEVICES"]3. torch.cuda.empty_cache()4. batch_size=1 1. with torch.no_grad() 注意pytorch在test时，一定要加上: with torch.no_grad(): outputs = Net_(inputs) ---错误代码的位置。不计算梯度，否则会使显存加倍

[881]内存不足RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total cap...

sinat_42367115的博客

04-21

5407

今天第一次在服务器上跑代码也是第一次接触cuda显存卡碰到了标题问题将解决办法记录下来 1.首先去查看cuda显存占用情况： nvidia-smi 显示所有GPU的当前信息状态（图源网络不想再去截图啦介意可删）发现第二列其实占用没满接着考虑第二种情况 2. 如果是训练中可考虑将batch_size调小一些如果在测试集中在代码问题的上一行加入withtorch.no_grad(): 3.考虑训练图片分辨率太高换数据集进行测试或者将图片大小改小一点亲测有效！.

如何解决“RuntimeError: CUDA Out of memory”问题

AI公园

03-22

9613

点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”作者：Nitin Kishore编译：ronghuaiyang导读一些可以尝试的解决“RuntimeError: CUDA Out of memory”的方案。当遇到这个问题时，你可以尝试一下这些建议，按代码更改的顺序递增：减少“batch_size”降低精度按照错误说的做清除缓存修改模型/训练在这些选项中，如果你使用的是预训练模型，则最容...

解决出现CUDA error:out of memory的问题

qq_46542320的博客

05-24

1万+

使用：CUDA_VISIBLE_DEVICES限制一下使用的GPU。CUDA_VISIBLE_DEVICES=0,1 则使用这两张GPU。CUDA_VISIBLE_DEVICES=0 则使用第一张GPU。CUDA_VISIBLE_DEVICES=1，则使用第二张GPU。如何设置CUDA_VISIBLE_DEVICES？例如：有两块GPU，即0,1号GPU，查阅资料，发现是显卡内存不足。

CUDA out of memory（然鹅明明还有空间）

联邦学习小白

09-16

1万+

模型跑完想再跑一遍的时候居然给我报“CUDA out of memory”，很明显，我的显卡虽然菜，但起码还是可以跑的，毕竟刚跑完，那就可能是python在运行完以后没有释放资源，导致GPU的内存满了。如果是这样的话，那解决的方法就很简单了，直接把进程杀死就行。首先在C:\Program Files\NVIDIA Corporation\NVSMI位置打开命令行，然后输入nvidia-smi（也可以用nvidia-smi.exe -l 1，每秒更新CUDA使用情况），显示当前gpu的使用情况如下：显

解决：RuntimeError: CUDA out of memory.

ln01010的博客

07-22

2391

利用pytorchGPU训练深度模型时出现RuntimeError:CUDA out of memory问题解决方案

CUDA out of memory的一种神奇解决方法

jasminefeng的博客

02-24

4167

我的输入样本维度是(1000,12,24,72)，一开始我是这么输入数据的： trainer.train(x_train, t_train, x_val, t_val) 发现必溢出，后来我取出其中400个样本输入： trainer.train(x_train[:400], t_train[:400], x_val, t_val) 发现不溢出了，训练正常，然后我把400删掉，但没删冒号： trainer.train(x_train[:], t_train[:], x_val, t_val) 竟然也没有溢

RuntimeError: CUDA out of memory 解决办法

Wadewhl的博客

04-01

9351

服务器的gpu内存不够，导致程序运行失败。问题如下： RuntimeError: CUDA out of memory. Tried to allocate 38.15 GiB (GPU 0; 31.75 GiB total capacity; 1.07 GiB already allocated; 26.18 GiB free; 3.45 GiB cached) 内存不够的解决办法： 1.不使用梯度方法在test过程中，在dataloader循环前加入， with torch.no_grad():

torch.cuda.OutOfMemoryError: CUDA out of memory.