RuntimeError: CUDA out of memory

最新推荐文章于 2023-07-25 17:49:08 发布
最新推荐文章于 2023-07-25 17:49:08 发布
阅读量1.7k 收藏 3
点赞数 1
分类专栏： bug解决
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Star__dust/article/details/103918970
版权
问题描述运行开源代码，使用CUDA在GPU运行，报错RuntimeError: CUDA out of memory. Tried to allocate 800.00 MiB (GPU 0; 6.00 GiB total capacity; 3.78 GiB already allocated; 155.14 MiB free; 679.80 MiB cached)可以发现有6g用了3.78...
摘要由CSDN通过智能技术生成

问题描述

运行开源代码，使用CUDA在GPU运行，报错RuntimeError: CUDA out of memory. Tried to allocate 800.00 MiB (GPU 0; 6.00 GiB total capacity; 3.78 GiB already allocated; 155.14 MiB free; 679.80 MiB cached)

可以发现有6g用了3.78g，但是为什么说剩下只有155M，还有一个679Mcache是什么？现在我也不是很清楚，只是解决了问题

解决方法

搜罗网上方法

  1. tensorflow和pytorch冲突
    我用anaconda创建了新的虚拟环境，还是不行，顺便一提实际上不会冲突至少我最后解决时环境两个都装了，没有发生冲突现象两个都能用。
  2. 使用gpu进程过多导致gpu显存不足，关闭杀死一些进程
    我用命令 nvidia-smi和任务管理器查看了6g显存几乎没用，显然不是
  3. 设备号问题默认使用0号显卡，该显卡被用或者其他原因不能使用，应该设置使用其他如1,2号显卡。也有说要显示设置使用0号显卡
    具体参考：这里和这里和这里(皮一下)
    结论是不行，设备号问题应该是多显卡才会可能发生，我的电脑就一个GTX1060的独显，默认设备号0&
最低0.47元/天 解锁文章
Star__dust
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
RuntimeError: CUDA out of memory.
小糖宝的博客
08-11 2044
报错： RuntimeError: CUDA out of memory. Tried to allocate 36.00 MiB (GPU 0; 2.00 GiB total capacity; 859.04 MiB already allocated; 6.46 MiB free; 904.00 MiB reserved in total by PyTorch) 解决方案： win+r，输入cmd，输入nvidia-smi查看GPU使用情况 可以看到有几个运行的进程，输入 taskkill -PID
RuntimeError:CUDA error:out of memory问题解决
Slim's Hello World
03-14 4万+
报错如下 思路 简洁明了，他已经告诉你了，默认使用的那gpu内存不足。 在操作系统输入如下，查一下memory现在的状态： nvidia-smi 害，发现GPU-0有一个进程正在执行导致1GB剩余都不够。 我们用GPU-1执行就行啦！ 问题解决 python文件中： import os os.environ["CUDA_VISIBLE_DEVICES"] = '1' 解决了。 ...
【释放GPU内存】OutOfMemoryError: CUDA out of memory
weixin_43941438的博客
05-26 8741
使用torch.cuda.empty_cache()方法来释放PyTorch的缓存，以释放一部分被PyTorch占用的GPU内存。这种情况可能是之前的训练占用了显存，没被释放。命令，可以查看到CUDA已经被快被占满。
解决出现CUDA error:out of memory的问题
qq_46542320的博客
05-24 1万+
使用：CUDA_VISIBLE_DEVICES限制一下使用的GPU。CUDA_VISIBLE_DEVICES=0,1 则使用这两张GPU。CUDA_VISIBLE_DEVICES=0 则使用第一张GPU。CUDA_VISIBLE_DEVICES=1，则使用第二张GPU。如何设置CUDA_VISIBLE_DEVICES？例如：有两块GPU，即0,1号GPU，查阅资料，发现是显卡内存不足。
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 6.00 GiB total capacity； 4.54 GiB already a
qq_43384629的博客
04-08 1404
常见的说1.改batch_size的大小2.换好显卡(我电脑都是3070ti还是不行，感觉就不是电脑的事)3.改代码（使用gpu训练的代码就这个就行。而我在搜这个问题的时候，发现这个老哥的说法很正确，自己也尝试成功了，他的解决办法是。
torch.cuda.OutOfMemoryError: CUDA out of memory.
热门推荐
Hello_World1023的博客
04-25 4万+
发现gpu:0显存被PID:19409程序大量占用, 报错应该是默认在gpu:0训练导致显存不足, 接着查看gpu:0上程序所属用户(如果不是师兄的我就kill了)设置完成后查看显存占用情况可以看到, gpu:1显存占用马上上升了, 不影响其他gpu卡的显存。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。这样即可指定在gpu:1上训练, 实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。发现gpu:1空闲, 指定gpu:1上训练模型, 有多种方法,
解决方法：RuntimeError: CUDA out of memory. Tried to allocate ... MiB
qq_44504069的博客
05-11 1万+
RuntimeError: CUDA out of memory. Tried to allocate 978.00 MiB (GPU 0; 15.90 GiB total capacity; 14.22 GiB already allocated; 167.88 MiB free; 14.99 GiB reserved in total by PyTorch)
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
Python RuntimeError: thread.__init__() not called解决方法
12-24
RuntimeError: thread.__init__() not called 复制代码 代码如下: class NotifyTread(threading.Thread):   def __init__(self, params):   threading.Thread.__init__(self) #here。。。。。。   self....
RuntimeError: DataLoader worker (pid(s) 9528, 8320) exited unexpectedly
01-06
RuntimeError: DataLoader worker (pid(s) 9528, 8320) exited unexpectedly 去网上搜教程，说是在loader定义的时候多进程的参数指定的问题，我的loader定义如下 loader = Data.DataLoader( dataset=torch_dataset,...
解决pycharm导入numpy包的和使用时报错：RuntimeError: The current Numpy installation (‘D:\\python3.6\\lib\\site-packa的问题
01-21
标题用pycharm导入numpy包的和使用时报错：RuntimeError: The current Numpy installation (‘D:\python3.6\lib\site-packages\numpy\init.py 1.file→settings→project interpreter→+（建议用pychon3.6版本，我...
RuntimeError: Cannot run the event loop while another loop is running(目前没有解决)
12-21
代码如下: import tornado.ioloop import tornado.web from tornado.httpclient import HTTPClient, AsyncHTTPClient class MainHandler(tornado.web.RequestHandler): # 同步 def get(self): ...
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 400.00 MiB (GPU 0； 6.00 GiB total
mjmald的博客
07-25 1万+
5. **调整 PyTorch 内存管理设置**: 可以尝试调整 PyTorch 的内存管理设置，例如通过设置`max_split_size_mb` 来避免内存碎片化。3. **释放不需要的显存**: 在某些情况下，可能存在一些不需要的显存被占用，可以使用`torch.cuda.empty_cache()` 来释放不需要的显存。可以尝试减小`batch_size` 参数的值。1. **减少模型的大小**: 可以考虑减少模型的大小，例如通过选择更小的模型、减少模型的层数或通道数等方式，来降低内存需求。
大概率（5重方法）解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
定期分享我的发现和想法，感谢你的陪伴和支持
03-24 2万+
主机中的内存，有两种存在方式，一是锁页，二是不锁页，锁页内存存放的内容在任何情况下都不会与主机的虚拟内存进行交换（注：虚拟内存就是硬盘），而不锁页内存在主机内存不足时，数据会存放在虚拟内存中。显卡中的显存全部是锁页内存,当计算机的内存充足的时候，可以设置pin_memory=True。pin_memory就是锁页内存，创建DataLoader时，设置pin_memory=True，则意味着生成的Tensor数据最开始是属于内存中的锁页内存，这样将内存的Tensor转义到GPU的显存就会更快一些。
记录CUDA error: out of memory的成功解决
weixin_54800645的博客
06-05 2375
惊讶地发现：我的torch版本确实和作者预训练的不一致！于是重装了1.4.0的古早torch，激动地去 python main.py 时，这error甚至一点没变化……NVIDIA-smi后显示，运行前没有GPU被占用，方法1pass！os.environ 可以获取有关系统的各种信息，此语句可以指定所要使用的显卡，没有此句默认为0。希望可以帮到大家~也提醒自己长个教训，思路不要被局限住，也要努力拓宽自己的视野，不要人云亦云~我去交流群求助，大家纷纷说是显存的问题，于是我又smi了一下：。
Ubuntu下查看cuda占用情况&清除gpu占用&跑深度学习报错RuntimeError: CUDA out of memory. Tried to allocate...解决办法
zeeq的博客
03-23 1万+
  在使用GPU跑深度学习的时候，报错RuntimeError: CUDA out of memory. Tried to allocate 26.00 MiB (GPU 0; 7.92 G......。意思就是GPU显存不够了。一般来说，解决方法有如下几个： 降低batch_size。比如原本设置的是64，那么现在可以改为32或者16甚至更小（我感觉我减少了batch_size之后还是没法跑，更好的解决方法是第二条）。 更根本的，查看一下GPU的使用情况，然后将占用较高却又没用的程序给关了。具体怎么查看
CUDA out of memory问题解决
gyxx1998的博客
09-07 2140
在使用resnet demo训练过程中，使用CPU训练不会报错。 但在使用GPU（GTX1650 4GB）训练时提示如下错误： RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 4.00 GiB total capacity; 550.99 MiB already allocated; 1.90 GiB free; 572.00 MiB reserved in total by PyTorch) 解决： 改小bat
分布式电网动态电压恢复器模拟装置设计与实现.doc
最新发布
07-06
本装置采用DC-AC及AC-DC-AC双重结构，前级采用功率因数校正（PFC）电路完成AC-DC变换，改善输入端电网电能质量。后级采用单相全桥逆变加变压器输出的拓扑结构，输出功率50W。整个系统以TI公司的浮点数字信号控制器TMS320F28335为控制电路核心，采用规则采样法和DSP片内ePWM模块功能实现SPWM波，采用DSP片内12位A/D对各模拟信号进行采集检测，简化了系统设计和成本。本装置具有良好的数字显示功能，采用CPLD自行设计驱动的4.3英寸彩色液晶TFT-LCD非常直观地完成了输出信号波形、频谱特性的在线实时显示，以及输入电压、电流、功率，输出电压、电流、功率，效率，频率，相位差，失真度参数的正确显示。本装置具有开机自检、输入电压欠压及输出过流保护，在过流、欠压故障排除后能自动恢复。
模型推理runtimeerror: cuda out of memory
09-17
模型推理中出现"RuntimeError: CUDA out of memory"错误是因为在GPU上使用的显存不足。这个错误通常发生在模型的输入数据量过大或模型占用的显存资源过多时。 解决这个问题可以采用以下方法： 1. 减少批处理大小：可以通过减少每次推理时的图像批处理大小来减少内存消耗。较小的批处理大小会减少每个批处理所需的显存量。 2. 减少模型的参数量：如果模型的参数量过大，可以尝试减少参数量来缓解显存不足的问题。可以通过减少模型的深度、宽度或者使用降低维度的技术（如降低卷积核的尺寸）来减少参数量。 3. 使用更高效的模型：可以考虑使用比原始模型更加轻量级和高效的模型结构。例如，可以使用MobileNet、EfficientNet等模型来代替较重的ResNet、VGG等模型。 4. 降低精度：可以尝试将模型的参数精度从32位浮点数降低为16位浮点数，以减少显存的使用量。这通常不会对模型的性能产生显著的影响，但会大幅度减少显存的使用。 5. 使用更大的显存：如果以上方法无法解决问题，可以考虑更换具有更大显存容量的GPU设备来运行模型推理。 总之，修复"RuntimeError: CUDA out of memory"错误的主要思路是通过减少模型参数量、降低精度、优化模型结构或减少输入数据量来减少GPU显存的使用。根据具体问题情况选择适当的解决方法，以确保模型能够在GPU上正常运行。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值