报错记录torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 90.00 MiB (GPU 0； 7.93 GiB to

最新推荐文章于 2024-08-11 10:01:30 发布

世由心生

最新推荐文章于 2024-08-11 10:01:30 发布

阅读量2.7w

点赞数 11

文章标签：深度学习 python 人工智能

本文链接：https://blog.csdn.net/gongkeguo/article/details/127674524

版权

torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 90.00 MiB (GPU 0; 7.93 GiB total capacity; 758.34 MiB already allocated; 5.75 MiB free; 858.00 MiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation.  See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF

原因，我选的卡号选错了，

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0"

确认好两件事：
1、本地文件和远程文件同步好了
2、代码中有没有指定哪块GPU的操作
他这个报错很反直觉的一个地方：如果你指定了2卡，2卡显存满了，他会说0卡显存满了，你去看0发现0根本没人用，这就很容易被绕进去

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

世由心生

关注关注

11
点赞
踩
19

收藏

觉得还不错? 一键收藏
6
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0； 2.00 GiB to

近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…

06-02

1万+

成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0; 2.00 GiB total capacity; 1.67 GiB already allocated; 0 bytes free; 1.67 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_s

学习笔记40-Ubuntu下跑Aplaca报错：torch.cuda.0utofMemoryError: CUDA out of memory.解决办法（查看CUDA占用情况&清除GPU缓存）

LZL2020LZL的博客

04-21

6050

发现在执行程序时仅使用极少的内存（图片-1%），因此不是内存不足，考虑可能是缓存爆了！

6 条评论您还未登录，请先登录后发表或查看评论

torch.cuda.OutOfMemoryError: CUDA out of memory.

Hello_World1023的博客

04-25

4万+

发现gpu:0显存被PID:19409程序大量占用, 报错应该是默认在gpu:0训练导致显存不足, 接着查看gpu:0上程序所属用户(如果不是师兄的我就kill了)设置完成后查看显存占用情况可以看到, gpu:1显存占用马上上升了, 不影响其他gpu卡的显存。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。发现gpu:1空闲, 指定gpu:1上训练模型, 有多种方法,

【debug日记】torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 96.00 MiB (GPU 0； 23.70

热门推荐

dont worry about it的博客

05-24

5万+

报错：torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 250.00 MiB.

torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 400.00 MiB (GPU 0； 6.00 GiB total

mjmald的博客

07-25

1万+

5. **调整 PyTorch 内存管理设置**: 可以尝试调整 PyTorch 的内存管理设置，例如通过设置`max_split_size_mb` 来避免内存碎片化。3. **释放不需要的显存**: 在某些情况下，可能存在一些不需要的显存被占用，可以使用`torch.cuda.empty_cache()` 来释放不需要的显存。可以尝试减小`batch_size` 参数的值。1. **减少模型的大小**: 可以考虑减少模型的大小，例如通过选择更小的模型、减少模型的层数或通道数等方式，来降低内存需求。

RuntimeError: CUDA out of memory. Tried to allocate 32.00 MiB (GPU

weixin_43639369的博客

02-24

9873

RuntimeError: CUDA out of memory. Tried to allocate 32.00 MiB (GPU）1. 问题描述2. 解决办法 1. 问题描述 Pytorch，GPU显存明明够用，为什么还报错呢？发现此时减小batch_size 同样是没用的。根本原因是代码指定的GPU与实际使用的GPU不一致。你以为代码在1上跑，实际上是在已经有代码运行的其他gpu跑，因此显示显存不足。 2. 解决办法让自己指定的gpu与实际使用的对应一致即可。比如，现在0，2，3号GPU已经在

[881]内存不足RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total cap...

sinat_42367115的博客

04-21

5400

今天第一次在服务器上跑代码也是第一次接触cuda显存卡碰到了标题问题将解决办法记录下来 1.首先去查看cuda显存占用情况： nvidia-smi 显示所有GPU的当前信息状态（图源网络不想再去截图啦介意可删）发现第二列其实占用没满接着考虑第二种情况 2. 如果是训练中可考虑将batch_size调小一些如果在测试集中在代码问题的上一行加入withtorch.no_grad(): 3.考虑训练图片分辨率太高换数据集进行测试或者将图片大小改小一点亲测有效！.

RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total capacity； 1.34

风口IT猪的成长录

08-04

5206

RuntimeError: CUDA out of memory.1. with torch.no_grad()2. os.environ["CUDA_VISIBLE_DEVICES"]3. torch.cuda.empty_cache()4. batch_size=1 1. with torch.no_grad() 注意pytorch在test时，一定要加上: with torch.no_grad(): outputs = Net_(inputs) ---错误代码的位置。不计算梯度，否则会使显存加倍

解决RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB (GPU 0; 7.43 GiB total capacity; 6.3

学-> 思->用

02-19

5万+

pytorch 训练问题RuntimeError: CUDA out of memory. RuntimeError: CUDA out of memory. Tried to allocate 26.00 MiB (GPU 0; 7.43 GiB total capacity; 5.46 GiB already allocated; 18.44 MiB free; 6.83 GiB reser...

torch.cuda.OutOfMemoryError

power的专栏

05-31

7362

遇到这个错误，按网上改小batch_size改的很小了，依然报错。错误原因是网络的输入输出shape不一致。后改小了网络结构，搞定。

【新手】复现NeRCo代码中出现的torch.cuda.OutOfMemoryError: CUDA out of memory. 问题解决办法。

qq_43612410的博客

09-13

2149

3、高版本pytorch可能在处理显存占用时有更多的优化，可以升级为更高版本的pytorch。特别是在相同型号GPU的情况下，可以考虑Python包版本的问题，通过“pip list”或者“conda list”可以参考版本信息。对于1，在尝试减少batchsize解决，发现原文中原本的batchsize已经是1，没有办法再减了。但是此方法只是应急用，至于怎么让他多个GPU一起用，我至今还没有弄明白，在参数前面加上。2、cached（缓存）过高的情况下，在报错的代码块之前先添加。也还是会报显存不够的错误.

torch.cuda.OutOfMemoryError: CUDA out of memory.解决方案（亲测有效）

estxiyang的博客

04-12

4188

torch.cuda.OutOfMemoryError: CUDA out of memory.

torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0； 31.74 GiB total

kewei chen

08-03

3061

参考：https://blog.csdn.net/MirageTanker/article/details/127998036。逐步调小PYTORCH_CUDA_ALLOC_CONF，但是会损失性能。

torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0； 6.00 GiB total

Dxy1239310216的博客

05-24

2483

PyTorch提供了自动混合精度（Automatic Mixed Precision, AMP）支持，这可以通过使用较小的数据类型（如半精度浮点数）来减少内存使用，同时保持模型训练的准确性。：如果你有多个GPU，你可以使用PyTorch的DataParallel或DistributedDataParallel来在多个GPU上并行训练你的模型。但是，请注意这通常是PyTorch内部用于管理内存分配的参数，并且可能需要深入了解PyTorch的内存管理机制才能正确使用。：这是最常见的解决方法。

Pycharm报错torch.cuda.OutOfMemoryError: CUDA out of memory.

Lu0v0Lu的博客

05-29

4113

CUDA error:out of memory

Arcobaleno

05-16

3万+

今天在运行程序的时候，一直跟我报这个错误，说我CUDA内存不足。调试了很久，最后发现竟然是这样····· 刚开始我怀疑是服务器上的显卡被人用了，但是当我mvidia-smi的时候发现3块GPU都没人用。。那这个问题显然是不可能了。那为何会这样呢？又有人说是TensorFlow和Pytorch的版本冲突。？？？我并没有搞到TensorFlow啊最后参考了该帖子：http:...

torch.cuda.outofmemoryerror: cuda out of memory.

06-06

torch.cuda.outofmemoryerror: cuda out of memory，意思是在使用PyTorch深度学习库时，GPU内存不足，无法完成计算。这通常是因为训练的数据集过大或模型过于复杂，导致需要大量的显存来存储计算图和中间计算结果。为了解决这个问题，可以尝试以下解决方案： 1. 减小batch size：可以适当降低每次训练时的batch size，以减少GPU内存的使用。 2. 减小模型规模：可以减少模型的规模，去掉一些不必要的特征或层。 3. 使用更大的GPU：如果你的电脑配备了多个GPU，可以尝试使用更大的GPU。 4. 使用分布式训练：可以使用多台GPU来分别存储数据和计算图，从而减少单个GPU的负担。 5. 释放不必要的GPU内存：可以使用torch.cuda.empty_cache()方法来释放不必要的GPU内存。总之，要解决torch.cuda.outofmemoryerror: cuda out of memory问题，需要适当调整模型和训练参数，以使GPU能够更有效地利用内存。