RuntimeError: CUDA out of memory

最新推荐文章于 2023-07-03 13:32:55 发布
最新推荐文章于 2023-07-03 13:32:55 发布
阅读量1.8k 收藏 3
点赞数 1
分类专栏： bug解决
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Star__dust/article/details/103918970
版权
问题描述运行开源代码，使用CUDA在GPU运行，报错RuntimeError: CUDA out of memory. Tried to allocate 800.00 MiB (GPU 0; 6.00 GiB total capacity; 3.78 GiB already allocated; 155.14 MiB free; 679.80 MiB cached)可以发现有6g用了3.78...
摘要由CSDN通过智能技术生成

问题描述

运行开源代码，使用CUDA在GPU运行，报错RuntimeError: CUDA out of memory. Tried to allocate 800.00 MiB (GPU 0; 6.00 GiB total capacity; 3.78 GiB already allocated; 155.14 MiB free; 679.80 MiB cached)

可以发现有6g用了3.78g，但是为什么说剩下只有155M，还有一个679Mcache是什么？现在我也不是很清楚，只是解决了问题

解决方法

搜罗网上方法

  1. tensorflow和pytorch冲突
    我用anaconda创建了新的虚拟环境，还是不行，顺便一提实际上不会冲突至少我最后解决时环境两个都装了，没有发生冲突现象两个都能用。
  2. 使用gpu进程过多导致gpu显存不足，关闭杀死一些进程
    我用命令 nvidia-smi和任务管理器查看了6g显存几乎没用，显然不是
  3. 设备号问题默认使用0号显卡，该显卡被用或者其他原因不能使用，应该设置使用其他如1,2号显卡。也有说要显示设置使用0号显卡
    具体参考：这里和这里和这里(皮一下)
    结论是不行，设备号问题应该是多显卡才会可能发生，我的电脑就一个GTX1060的独显，默认设备号0&
最低0.47元/天 解锁文章
Star__dust
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
Python RuntimeError: thread.__init__() not called解决方法
09-22
然而，在使用`threading.Thread`进行多线程编程时，可能会遇到`RuntimeError: thread.__init__() not called`这样的错误。这个错误通常意味着你没有正确地初始化`threading.Thread`的实例。 在标题和描述中提到的...
RuntimeError:CUDA error:out of memory问题解决
Slim's Hello World
03-14 4万+
报错如下 思路 简洁明了，他已经告诉你了，默认使用的那gpu内存不足。 在操作系统输入如下，查一下memory现在的状态： nvidia-smi 害，发现GPU-0有一个进程正在执行导致1GB剩余都不够。 我们用GPU-1执行就行啦！ 问题解决 python文件中： import os os.environ["CUDA_VISIBLE_DEVICES"] = '1' 解决了。 ...
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity； 4.54 GiB already a
qq_43384629的博客
04-08 1436
常见的说1.改batch_size的大小2.换好显卡(我电脑都是3070ti还是不行，感觉就不是电脑的事)3.改代码（使用gpu训练的代码就这个就行。而我在搜这个问题的时候，发现这个老哥的说法很正确，自己也尝试成功了，他的解决办法是。
【释放GPU内存】OutOfMemoryError: CUDA out of memory
weixin_43941438的博客
05-26 8806
使用torch.cuda.empty_cache()方法来释放PyTorch的缓存，以释放一部分被PyTorch占用的GPU内存。这种情况可能是之前的训练占用了显存，没被释放。命令，可以查看到CUDA已经被快被占满。
报错解决：RuntimeError: CUDA out of memory.
博学而笃志，切问而近思。
10-26 6552
报错解决：RuntimeError: CUDA out of memory.
pytorch 使用GPU报错 ->RuntimeError: CUDA out of memory. Tried to allocate 1.50 GiB
左手coding，右手cooking
10-15 7202
参考网址 其实 #loss.backward()
【Debug记录】CUDA out of memory.|显存不足|xx GiB reserved in total by PyTorch
m0_51141265的博客
03-04 4404
“RuntimeError: CUDA out of memory. Tried to allocate 2.00 GiB (GPU 0; 10.76 GiB total capacity; 7.67 GiB already allocated; 1.73 GiB free; 8.20 GiB reserved in total by PyTorch)”
解决运行出现CUDA error:out of memory的问题
qq_30653631的博客
07-04 3万+
模型运行出现以下问题，经过查找资料发现解决方案如下： CUDA_VISIBLE_DEVICES限制一下使用的GPU。 比如有0,1,2,3号GPU，CUDA_VISIBLE_DEVICES=2,3，则当前进程的可见GPU只有物理上的2、3号GPU，此时它们的编号也对应变成了0、1，即cuda:0对应2号GPU，cuda:1对应3号GPU。 如何设置CUDA_VISIBLE_DEVICES: ① 使用python的os模块 import os os.environ[‘CUDA_VISIBLE_DEVICES
RuntimeError: DataLoader worker (pid(s) 9528, 8320) exited unexpectedly
01-06
RuntimeError: DataLoader worker (pid(s) 9528, 8320) exited unexpectedly 去网上搜教程，说是在loader定义的时候多进程的参数指定的问题，我的loader定义如下 loader = Data.DataLoader( dataset=torch_dataset,...
解决pycharm导入numpy包的和使用时报错：RuntimeError: The current Numpy installation (‘D:\\python3.6\\lib\\site-packa的问题
01-21
标题用pycharm导入numpy包的和使用时报错：RuntimeError: The current Numpy installation (‘D:\python3.6\lib\site-packages\numpy\init.py 1.file→settings→project interpreter→+（建议用pychon3.6版本，我...
RunTime Error : cuda out of memory
Akita·Wang's Semantic Segmentation
03-27 1581
cuda out of memory 分为两种情况 第一种 CUDA out of memory. Tried to allocate 16.00 MiB 错误信息： CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 7.93 GiB total capacity; 6.68 GiB already allocated; 18.06 MiB free; 41.28 MiB cached) 原因： 运行网络模型过程，占满了内存，引发中断
RuntimeError: CUDA out of memory. Tried to allocate 2.13 GiB (GPU 0； 5.80 Gi..........)
qq_45887007的博客
10-04 909
mmsegmantation 显存不够
解决：CUDA out of memory: Tried to allocate 12.11 GiB......
qq_39654162的博客
07-03 1166
解决：运行推理前：export PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:32。
一步真实解决RuntimeError: CUDA out of memory.
Thebest_jack的博客
05-15 6367
一步真实解决RuntimeError: CUDA out of memory.
torch.cuda.OutOfMemoryError: CUDA out of memory.
Hello_World1023的博客
04-25 4万+
发现gpu:0显存被PID:19409程序大量占用, 报错应该是默认在gpu:0训练导致显存不足, 接着查看gpu:0上程序所属用户(如果不是师兄的我就kill了)设置完成后查看显存占用情况可以看到, gpu:1显存占用马上上升了, 不影响其他gpu卡的显存。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。发现gpu:1空闲, 指定gpu:1上训练模型, 有多种方法,
解决方法：RuntimeError: CUDA out of memory. Tried to allocate ... MiB
qq_44504069的博客
05-11 1万+
RuntimeError: CUDA out of memory. Tried to allocate 978.00 MiB (GPU 0; 15.90 GiB total capacity; 14.22 GiB already allocated; 167.88 MiB free; 14.99 GiB reserved in total by PyTorch)
pytorch: 四种方法解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
热门推荐
xiyou__的博客
07-06 18万+
Bug：RuntimeError: CUDA out of memory. Tried to allocate … MiB 解决方法： 法一： 调小batch_size，设到4基本上能解决问题，如果还不行，该方法pass。 法二： 在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）： import torch, gc gc.collect() torch.cuda.empty_cache() 法三（常用方法）： 在测试阶段和验证阶段前插入代码 with torch.no_gr
CUDA out of memory问题解决
gyxx1998的博客
09-07 2195
在使用resnet demo训练过程中，使用CPU训练不会报错。 但在使用GPU（GTX1650 4GB）训练时提示如下错误： RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 4.00 GiB total capacity; 550.99 MiB already allocated; 1.90 GiB free; 572.00 MiB reserved in total by PyTorch) 解决： 改小bat
模型推理runtimeerror: cuda out of memory
最新发布
09-17
模型推理中出现"RuntimeError: CUDA out of memory"错误是因为在GPU上使用的显存不足。这个错误通常发生在模型的输入数据量过大或模型占用的显存资源过多时。 解决这个问题可以采用以下方法： 1. 减少批处理大小：...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值