PyTorch CUDA out of memory ＜坑＞

最新推荐文章于 2023-11-25 21:54:44 发布
最新推荐文章于 2023-11-25 21:54:44 发布
阅读量256 收藏
点赞数
分类专栏： PyTorch 文章标签： pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Peyton_/article/details/117737803
版权

原代码

total_loss += loss

现代码

在累加损失时，未将loss转换为Python数字，则可能出现程序内存使用量增加的情况。total_loss累加了张量和它们的梯度历史，这可能会产生很大的autograd 图，耗费内存和计算资源。

total_loss += loss.item()

 

Peyton_
关注
专栏目录
成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0； 2.00 GiB to
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
06-02 1万+
​ 成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0; 2.00 GiB total capacity; 1.67 GiB already allocated; 0 bytes free; 1.67 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_s
CUDA out of memory in pytorch
jacke121的专栏
04-22 2949
with torch.no_grad(): CUDA out of memory in pytorch 今天尝试了一下Transformer，一直遇到当validate若干次之后爆显存，一开始以为参数过多，batch size过大，但是无济于事。谷歌了相关内容，发现原来是需要加 with torch.no_grad(): ...
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码： with torch.no_grad(): # 停止自动反向计算梯度 参考： https://wisdomai.xyz/tool/pytorch/archives/2301 https://ptorch.com/news/160.html 作者：菜叶儿掉啦
cuda out of memory(PyTorch)
如果想成为中心，那么就到中心去吧。
05-29 3200
情况1 model.forward()过程中，中间变量过多，导致GPU使用量增大，如下所示： def forward(self, x): batch_size = x.shape[0] x0 = self.base_model(x) # Add positional info x1 = self.up1(x0) # 512, 32, 32 x2 = self.up2(x1) # 256, 64
Pytorch cuda out of memory
u014714362的博客
03-19 1万+
pytorch程序出现cuda out of memory，主要包括两种情况： 1. 在开始运行时即出现，解决方法有 ： a）调小batchsize b）增大GPU现存（可加并行处理） 2. 在运行过程中出现，特别是运行了很长时间后爆显存了。 a) 首先检查是否是“个别实例过长”引起的，如果程序运行时已经占用GPU的大半，非常容易出现这种情况。解决方法...
pytorch cuda out of memory
小姑仔的博客
08-04 105
需要在测试前面加上with torch.no_grad()，否则程序会报错cuda out of memory with torch.no_grad(): output = model(batch_token_ids,batch_segment_ids,batch_mask_ids)
Pytorch运行错误：CUDA out of memory处理过程
热门推荐
qq_41221841的博客
03-31 8万+
1.初始报错 CUDA out of memory. Tried to allocate 244.00 MiB (GPU 0; 2.00 GiB total capacity; 1.12 GiB already allocated; 25.96 MiB free; 1.33 GiB reserved in total by PyTorch) 需要分配244MiB，但只剩25.96MiB空闲。，...
Pytorch GPU显存充足却显示out of memory的解决方式
09-18
在使用PyTorch进行深度学习模型训练时，有时会遇到一个常见的问题，即GPU显存充足，但在运行过程中却报出“out of memory”错误。这种情况可能会让人困惑，因为直观上，既然显存足够，就不应该出现这样的问题。本文...
pytorch出现CUDA error:out of memory错误
weixin_43979925的博客
04-10 5101
pytorch出现CUDA error:out of memory错误问题描述解决方案 问题描述 模型训练过程中报错，提示CUDA error:out of memory。 解决方案 判断模型是否规模太大或者batchsize太大，可以优化模型或者减小batchsize； 比如： 已分配的显存接近主GPU的总量，且仍需要分配的显存大于缓存（306M>148.3M）。 cached（...
pytorch中cuda out of memory问题
Acmer_future_victor的博客
12-05 2万+
在组会前一天遇到这个问题，试了各种解决办法都不可以，简直要疯辽，还等着实验结果做汇报呢…… RuntimeError: CUDA out of memory. Tried to allocate 486.00 MiB (GPU 0; 10.73 GiB total capacity; 8.78 GiB already allocated; 23.62 MiB free; 1.07 GiB cached) 就是这个问题，很奇怪，不知道那1.07GiB到底是什么占了，一样的超参数设置，之前从来没有遇到过这种问题
pytorch报错：RuntimeError: CUDA out of memory.（CUDA内存不足）
qq_35091353的博客
05-20 2万+
查看GPU的运行状况 程序运行中可以通过watch -n 0.1 -d nvidia-smi命令来实时查看GPU占用情况，按Ctrl+c退出 通过nvidia-smi命令来查看某一时刻的GPU的占用情况 1、训练阶段 如果是训练时遇到该问题，说明模型的参数太多了，将模型的参数减少该问题就解决了，改小batch_size是不能解决的（我将batch_size设为1都没解决，而且报错时的内存数据都没变），因此，出现这个问题，应该有三个原因： GPU还有其他进程占用显存，导致本进程无法分配到足够的显存 缓
pytorch出现RuntimeError: CUDA out of memory.--------MDSR
qq_40759170的博客
08-08 1530
在运行MDSR程序时，分别两次出现CUDA out of memory. 第一次是在数据训练的过程中，由于Batch_size设置过大，导致内存不足，将其设置较小即可解决。 第二次是在测试过程中，由于是直接导入训练好的模型，不需要再次进行反向传播。因此在进行前向传播之前加入 with torch.no_grad(): 即可解决。 即 with torch.no_grad(): ...
CUDA error: out of memory
qq_37199669的博客
10-10 175
The best way is to find the process engaging gpu memory and kill it: find the PID of python process from: nvidia-smi copy the PID and kill it by: sudo kill -9 pid
CUDA Error: out of memory
王叔叔
08-13 2959
0 CUDA Error: out of memory darknet: ./src/cuda.c:36: check_error: Assertion `0’ failed. 已放弃 (核心已转储) 很多博客都相下面这样，说修改 测试yolov3时报错：cuda error: out of memory darknet: ./src/cuda.c:36: check_error: Assertion `0’ failed. batch=64 subdivisions=16 为 batch=1 subdiv
显存充足，pytorch却报错CUDA out of memory？(已解决)
最新发布
weixin_45914748的博客
11-25 1万+
明明显存充足，但是train的时候总是提示“CUDA out of memory”。注意！这里的allocated是你自己程序所占用的，我之前理解错了，以为是被别人占用的（然而并没有其他进程）。
RuntimeError: CUDA error: out of memory
weixin_39450145的博客
07-06 1683
RuntimeError: CUDA error: out of memorycuda不够用，需要换用显存更大的显卡。。。换用显存更大的显卡问题应该就解决了。
runtimeError: CUDA error: out of memory
weixin_46235937的博客
04-28 442
出现这个情况是因为GPU内存被占用太多 可以使用nvidia-smi查看GPU内存使用情况： 可以看到GPU内存被占用了很多： 解决方法： 杀死占用GPU内存较多的进程 这里是： 所以输入命令： sudo kill 6698(PID进程号) 杀死进程6698 再次输入nvidia-smi 可以看到GPU内存被释放了： 再次运行就不会报错了 ...
在pytorch环境下解决CUDA out of memory. 的问题
weixin_57058018的博客
10-26 395
2.pytorch环境问题，首先第一个，如果你的显卡等级较高，比如我的显卡，就不能安装太低的pytorch版本，建议1.8.0以下的版本都不要安装，不然会报显卡与pytorch不匹配的错，安装的时候不要用清华的镜像源，会出现太多问题！num_workers与batch_size的大小，建议先调整num_workers，但是num_workers要尽可能的调大，不然会影响读取图片的速度，再去调整batch_size的大小。安装好对应自己显卡的版本再检查环境问题。运行这段后会使用中科大的镜像源。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值