学习笔记40-Ubuntu下跑Aplaca报错：torch.cuda.0utofMemoryError: CUDA out of memory.解决办法（查看CUDA占用情况&清除GPU缓存）

已于 2024-04-08 09:11:59 修改
阅读量5.5k 收藏 14
点赞数 6
分类专栏： 算法实战 文章标签： ubuntu 缓存 pytorch
于 2023-04-21 08:01:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/LZL2020LZL/article/details/130270895
版权

缓存不够！！！！并非内存容量不够

错误提示： torch.cuda.0utofMemoryError: CUDA out of memory.Tried to allocate 2.00 MiB (PU 0; 23.69 GiB total capacity; 237 BiB already allocated; 18.38 MiB fre; 2.50 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation.See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF
在这里插入图片描述
通过查资料，说内存不够用，换个好显卡，可但是通过运行指示nvidia-smi发现在执行程序时仅使用极少的内存（图片-1%），因此不是内存不足，考虑可能是缓存爆了！
在这里插入图片描述
在这里插入图片描述
观察下面的进程发现12757（准备执行的程序aplaca）占比GPU显存很大，用sudo skill -9 12757

了解本专栏 订阅专栏 解锁全文 超级会员免费看
李卓璐
关注
  • 6
    点赞
  • 踩
  • 14
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
订阅专栏
成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0； 2.00 GiB to
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
06-02 1万+
成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0; 2.00 GiB total capacity; 1.67 GiB already allocated; 0 bytes free; 1.67 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_spl
torch.cuda.is_available（）返回False解决方案
12-21
在配置完环境以后运行程序，程序正常运行但是GPU没有任务，此时判断程序没有在GPU上运行。调试步骤： 先查看cuda安装有没有问题：nvcc -V                                  可以看到cuda驱动等安装没有问题。 进程序去看.cuda()或者.todevice之类代码，看程序确实放在GPU上了，故排除 但是在查看代码是看到这里是一个and，参数args.no_cuda是设置的Flase，所以问题因为在torch.cuda.is_available()，没有获得cuda加速。 查看深度学习环境搭建torch.cuda.is_available()这里返回了
torch.cuda.OutOfMemoryError: CUDA out of memory.解决方案（亲测有效）
最新发布
estxiyang的博客
04-12 1796
torch.cuda.OutOfMemoryError: CUDA out of memory.
torch.cuda.OutOfMemoryError: CUDA out of memory.
Hello_World1023的博客
04-25 4万+
发现gpu:0显存被PID:19409程序大量占用, 报错应该是默认在gpu:0训练导致显存不足, 接着查看gpu:0上程序所属用户(如果不是师兄的我就kill了)设置完成后查看显存占用情况可以看到, gpu:1显存占用马上上升了, 不影响其他gpu卡的显存。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。发现gpu:1空闲, 指定gpu:1上训练模型, 有多种方法,
pytorch运行错误：CUDA out of memory. [已解决]
qq_34907927的博客
11-21 2万+
在2080ti上运行分类模型时，遇到了该问题，检查模型没有发现问题，最终确认是验证机评估阶段的张量计算非常占用空间。 可以对利用torch.tensor().detach().cpu().numpy()转为numpy进行loss和acc的计算 直接对评估阶段使用with torch.no_grad(): for step, (img, label) in enumerate(dataloader): ...... if (step + 1) %
RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB，错误记录
im_Dora的博客
07-01 1673
代码运行报这个错误： RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 4.93 GiB total capacity; 94.84 MiB already allocated; 21.00 MiB free; 108.00 MiB reserved in total by PyTorch) import torch, gc gc.collect() torch.cuda.empty_cache() 加入以上代码解决
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 400.00 MiB (GPU 0； 6.00 GiB total
mjmald的博客
07-25 1万+
5. **调整 PyTorch 内存管理设置**: 可以尝试调整 PyTorch 的内存管理设置，例如通过设置`max_split_size_mb` 来避免内存碎片化。3. **释放不需要的显存**: 在某些情况下，可能存在一些不需要的显存被占用，可以使用`torch.cuda.empty_cache()` 来释放不需要的显存。可以尝试减小`batch_size` 参数的值。1. **减少模型的大小**: 可以考虑减少模型的大小，例如通过选择更小的模型、减少模型的层数或通道数等方式，来降低内存需求。
解决：RuntimeError: CUDA out of memory. Tried to allocate 2.00 MiB
笼中鸟
10-07 1万+
方法一： 仅需减小batchsize 改文件的配置cfg的batchsize=4，一般在cfg文件下的查找batch或batchsize，将batchsize调小后，再次运行，类似于改下面 方法二 ： 上述方法还没解决，不改batchsize，可以考虑下面的方法的链接 不计算梯度： ps: 在报错的哪一行代码的上面，加上下面一行代码，不计算梯度 with torch.no_grad() 不计算梯度的方法 方法三： 释放内存：链接如下 释放内存 if hasattr(torch.
RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0； 4.00 GiB total capacity； 2.44
热门推荐
华墨1024的博客
04-04 6万+
使用不计算梯度的方法解决RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 4.00 GiB total capacity; 2.44 GiB already allocated; 0 bytes free; 2.45 GiB reserved in total by PyTorch)
torch.cuda.OutOfMemoryError
power的专栏
05-31 6932
遇到这个错误，按网上改小batch_size改的很小了，依然报错。错误原因是网络的输入输出shape不一致。后改小了网络结构，搞定。
RuntimeError:CUDA out of memory.Tried to allocate 20.00MiB.
m0_61985580的博客
04-23 1万+
这是我遇到的问题，刚开始的时候怎么也解决不了。 然后我去搜了一下解决方法，具体方法如下： 方法一： 仅需减小batchsize 改文件的配置cfg的batchsize=1，一般在cfg文件下的查找batch或batchsize，将batchsize调小后，再次运行，类似于改下面 方法二 ： 上述方法还没解决，不改batchsize，可以考虑下面的方法的链接 不计算梯度： ps: 在报错的哪一行代码的上面，加上下面一行代码，不计算梯度 withtorch.no_grad() 不..
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
pytorch查看torch.Tensor和model是否在CUDA上的实例
09-18
今天小编就为大家分享一篇pytorch查看torch.Tensor和model是否在CUDA上的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
torch.cuda.is_available()返回False的问题解决
04-02
torch.cuda.is_available()返回False的问题解决
pytorch:torch.mm()和torch.matmul()的使用
09-18
今天小编就为大家分享一篇pytorch:torch.mm()和torch.matmul()的使用，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
RuntimeError: CUDA out of memory 已解决
maoker_Voice的博客
10-10 6109
Pytorch RuntimeError: CUDA out of memory with a huge amount of free memory
报错记录torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 90.00 MiB (GPU 0； 7.93 GiB to
gongkeguo的博客
11-03 2万+
python报错记录
RuntimeError: CUDA out of memory. Tried to allocate 32.00 MiB (GPU
weixin_43639369的博客
02-24 9473
RuntimeError: CUDA out of memory. Tried to allocate 32.00 MiB (GPU）1. 问题描述2. 解决办法 1. 问题描述 Pytorch，GPU显存明明够用，为什么还报错呢？发现此时减小batch_size 同样是没用的。 根本原因是代码指定的GPU与实际使用的GPU不一致。你以为代码在1上跑，实际上是在已经有代码运行的其他gpu跑，因此显示显存不足。 2. 解决办法 让自己指定的gpu与实际使用的对应一致即可。 比如，现在0，2，3号GPU已经在
解决出现CUDA error:out of memory的问题
qq_46542320的博客
05-24 1万+
使用：CUDA_VISIBLE_DEVICES限制一下使用的GPU。CUDA_VISIBLE_DEVICES=0,1 则使用这两张GPU。CUDA_VISIBLE_DEVICES=0 则使用第一张GPU。CUDA_VISIBLE_DEVICES=1，则使用第二张GPU。如何设置CUDA_VISIBLE_DEVICES？例如：有两块GPU，即0,1号GPU，查阅资料，发现是显卡内存不足。
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 810.00 MiB
08-21
torch.cuda.OutOfMemoryError: CUDA out of memory是指在使用PyTorch进行GPU计算时，出现了内存不足的错误。具体来说，在尝试分配810.00 MiB的内存时，由于已经分配了一部分内存并没有释放，导致了内存不足的情况。 解决这个问题的方法之一是调整max_split_size_mb参数，以避免内存碎片化。这个参数可以在代码中设置，具体的值可以根据情况进行调整。另外，可以查阅PyTorch的内存管理文档以及PYTORCH_CUDA_ALLOC_CONF文档，获取更多关于内存管理和配置的信息。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [报错记录torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 90.00 MiB (GPU 0； 7.93 ...](https://blog.csdn.net/gongkeguo/article/details/127674524)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* *3* [成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0； 2.00 ...](https://blog.csdn.net/qq_41185868/article/details/131015210)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值