解决RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB (GPU 0; 7.43 GiB total capacity; 6.3

最新推荐文章于 2024-08-17 22:11:19 发布
最新推荐文章于 2024-08-17 22:11:19 发布
阅读量5.6w 收藏 138
点赞数 28
分类专栏： python高级编程|工具封装 机器学习、深度学习实例讲解与分析
禁止转载
本文链接：https://blog.csdn.net/weixin_32393347/article/details/104395179
版权
本文介绍了在PyTorch训练过程中遇到CUDA内存不足的问题，即RuntimeError: CUDA out of memory，并提供了在报错行前添加代码释放内存的解决方法。
摘要由CSDN通过智能技术生成

pytorch 训练

问题RuntimeError: CUDA out of memory.

RuntimeError: CUDA out of memory. Tried to allocate 26.00 MiB (GPU 0; 7.43 GiB total capacity; 5.46 GiB already allocated; 18.44 MiB free; 6.83 GiB reserved in total by PyTorch)

解决办法

在报错哪一行前面加上下面两行：释放无关的内存

if hasattr(torch.cuda, 'empty_cache'):
	torch.cuda.empty_cache()
AI拉呱
关注
专栏目录
订阅专栏
成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0； 2.00 GiB to
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
06-02 1万+
​ 成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0; 2.00 GiB total capacity; 1.67 GiB already allocated; 0 bytes free; 1.67 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_s
torch.cuda.OutOfMemoryError: CUDA out of memory.
wxr0616的博客
04-08 524
今天微调chatglm3-6b的时候先后出现torch.cuda.OutOfMemoryError: CUDA out of memory.和torch.distributed.elastic.multiprocessing.api: [ERROR] failed (exitcode: 1) local_rank: 0 (pid: 780) of binary，我先试着解决后一个，未果，于是先看看前一个，打开训练日志，发现有很多空字符串，类似。记得改参数的时候最好折半比如512改为216.
CUDA Out of Memory ：CUDA内存不足的完美解决方法
最新发布
沉淀、分享、成长，让自己和他人都能有所收获！
08-17 2万+
CUDA Out of Memory 🛑：CUDA内存不足的完美解决方法摘要 📝引言 🌟什么是 CUDA Out of Memory 错误？🤔基本定义常见场景常见的CUDA内存不足场景及解决方案 🔍1. 模型过大导致显存不足2. 批量数据过大3. 显存没有释放4. 多线程或异步操作占用大量显存深入案例分析：如何避免和处理CUDA内存不足 🛠️1. 代码优化示例2. 累积梯度示例🤔 QA环节小结 📚表格总结 📊未来展望 🚀参考资料 📚博主 默语带您 Go to New World.✍个人主页——
烦人的pytorch gpu出错问题：RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB 远程主机间复制文件及文件夹
初学者的博客
08-04 2万+
1、RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB (GPU 0; 10.76 GiB total capacity; 9.69 GiB already allocated; 15.56 MiB free; 9.91 GiB reserved in total by PyTorch) 应该有三个原因 GPU还有其他进程占用显存，导致本进程无法分配到足够的显存 缓存过多，使用torch.cuda.empty_cache()清理缓存
已解决yolov5报错RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB
Code_and516的博客
03-27 1249
已解决yolov5报错RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB
解决RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB
qq_43733107的博客
09-15 6098
gpu运行错误
RuntimeError: CUDA out of memory. Tried to allocate 144.00 MiB (GPU 0； 2.00 GiB total capacity； 1.29
weixin_43725886的博客
07-04 1万+
RuntimeError: CUDA out of memory. Tried to allocate 144.00 MiB (GPU 0; 2.00 GiB total capacity; 1.29 GiB already allocated; 79.00 MiB free; 1.30 GiB reserved in total by PyTorch) 解决方案
CUDA error:out of memory
Arcobaleno
05-16 3万+
今天在运行程序的时候，一直跟我报这个错误，说我CUDA内存不足。调试了很久，最后发现竟然是这样····· 刚开始我怀疑是服务器上的显卡被人用了，但是当我mvidia-smi的时候发现3块GPU都没人用。。那这个问题显然是不可能了。那为何会这样呢？ 又有人说是TensorFlow和Pytorch的版本冲突。？？？我并没有搞到TensorFlow啊 最后参考了该帖子：http:...
RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB linux跑深度学习爆显存问题
qq_43457119的博客
09-20 2855
Linux命令中的|符号称之为管道，作用是把前一个命令的输出作为下一个命令的输入（一般为stdout，stderr要做其他处理），管道的功能非常实用，在很多场景下都可以使用到，比如某个文件夹下有几万个文件，但是有一个文件是txt文件，其他均为图片，需要将此文件找出来。可以看到PID、PPID、CMD 3列重要信息，分别是进程ID、父进程ID、进程的启动命令。2、系统的进程太多，有可能跑之前调试的代码进程没有结束，还在占用显存，需要清理。就是我启动的进程，其他的均为系统进程或无关显存占用的进程。
RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total capacity； 1.34
风口IT猪的成长录
08-04 5261
RuntimeError: CUDA out of memory.1. with torch.no_grad()2. os.environ["CUDA_VISIBLE_DEVICES"]3. torch.cuda.empty_cache()4. batch_size=1 1. with torch.no_grad() 注意pytorch在test时，一定要加上: with torch.no_grad(): outputs = Net_(inputs) ---错误代码的位置。 不计算梯度，否则会使显存加倍
[881]内存不足RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total cap...
sinat_42367115的博客
04-21 5412
今天第一次在服务器上跑代码 也是第一次接触cuda显存卡 碰到了标题问题 将解决办法记录下来 1.首先去查看cuda显存占用情况： nvidia-smi 显示所有GPU的当前信息状态（图源网络 不想再去截图啦 介意可删） 发现第二列其实占用没满 接着考虑第二种情况 2. 如果是训练中 可考虑将batch_size调小一些 如果在测试集中 在代码问题的上一行 加入withtorch.no_grad(): 3.考虑训练图片分辨率太高 换数据集进行测试或者将图片大小改小一点 亲测有效！.
RuntimeError: CUDA out of memory. Tried to allocate 32.00 MiB (GPU
weixin_43639369的博客
02-24 9892
RuntimeError: CUDA out of memory. Tried to allocate 32.00 MiB (GPU）1. 问题描述2. 解决办法 1. 问题描述 Pytorch，GPU显存明明够用，为什么还报错呢？发现此时减小batch_size 同样是没用的。 根本原因是代码指定的GPU与实际使用的GPU不一致。你以为代码在1上跑，实际上是在已经有代码运行的其他gpu跑，因此显示显存不足。 2. 解决办法 让自己指定的gpu与实际使用的对应一致即可。 比如，现在0，2，3号GPU已经在
RuntimeError: CUDA out of memory. Tried to allocate 1.77 GiB？如何解决
**My Coding Family**
05-27 1006
ok，以上就是我这期的Bug修复内容啦，如果还想查找更多解决方案，你可以看看我专门收集Bug及提供解决方案的专栏「Bug调优」，都是实战中碰到的Bug，希望对你有所帮助。到此，咱们下期拜拜。码字不易，如果这篇文章对你有所帮助，帮忙给bugj菌来个，您的支持就是我坚持写作分享知识点传播技术的最大动力。「猿圈奇妙屋」；
RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB (GPU 0； 6.00 G）的解决【实测成功】
热门推荐
weixin_41529093的博客
03-14 4万+
仅作为记录，大佬请跳过。 仅需减小batchsize 展示： 即可运行。 注 博主的这个程序减小batchsize就行了，可能不同的博友们的程序不一样，也有的大佬博主使用不计算梯度或释放内存的方式 不计算梯度——传送门 with torch.no_grad() 释放内存——传送门 if hasattr(torch.cuda, 'empty_cache'): torch.cuda.empty_cache() ...
Stable Diffusion CUDA out of memory. Tried to allocate 46.00 MiB. GPU 0 has a total capacty of 6.00
Drizzle_66213的博客
05-28 584
重新启动后依旧报错，将参数设置为提示数值最小偶数，参数设置为set PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:44，保存后重新启动，完美解决爆显存。参考以上文章，根据报错提示在webui-user.bat文件添加set PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:46。
RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB
07-27
- *1* [已解决yolov5报错RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB](https://blog.csdn.net/Code_and516/article/details/129798540)[target="_blank" data-report-click={"spm":"1018.2226....
评论 34
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI拉呱

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值