RuntimeError: CUDA out of memory如何解决

已于 2024-09-26 17:19:00 修改
阅读量118 收藏
点赞数 1
分类专栏： 解决bug技巧 文章标签： linux 服务器
于 2024-09-19 14:46:36 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41496108/article/details/142360176
版权

1.nvidia-smi
2.fuser -v /dev/nvidia*
3.TOP top：查看进程 U :输入用户名
4. ps -ef | grep train.py #train.py指命令行
5. 杀死残留的进程 kill -9 PID

欢天喜地小姐姐
关注
专栏目录
RuntimeError: CUDA out of memory.
网易搬砖选手
04-10 1万+
我认为对于 GPU 内存较低的 PyTorch 用户来说，这是一个非常常见的消息：X MiB free;X cached)但似乎效果不是很大。虽然为清除占用的cuda内存提供了一个很好的选择，我们还可以通过使用手动清除未使用的变量，但在使用这些命令后，错误可能会再次出现，因为 pytorch 实际上并没有清除内存，而是清除了对变量占用的内存的引用。因此，重新启动内核后减小batch_size并找到最佳batch_size是最好的选择（但有时不是一个非常可行的选择）。其中，两个参数都是可选的。
CUDA ~ RuntimeError: CUDA Out of memory解决
weixin_41282923的博客
08-08 83
一些可以尝试的解决“RuntimeError: CUDA Out of memory”的方案。当遇到这个问题时，你可以尝试一下这些建议，按代码更改的顺序递增：减少“batch_size”降低精度按照错误说的做清除缓存修改模型/训练在这些选项中，如果你使用的是预训练模型，则最容易和最有可能解决问题的选项是第一个。修改batc...
RuntimeError: CUDA out of memory解决方法
cute_boy_的博客
12-02 2万+
RuntimeError: CUDA out of memory解决方法 前言 今天在运行代码的时候出现了cuda的一个报错，报错如下，意思就是超出内存了 解决 首先查看一下GPU使用情况，命令如下：nvidia-smi 看输出的第二列（Memory_Usage）查看各个GPU使用情况 找到剩余内存较大的GPU，然后代码中输入如下代码 import os import torch os.environ['CUDA_VISIBLE_DEVICES'] = '2,6' # 代表可以使用第二个和第六个
RuntimeError: CUDA out of memory.【多种场景下的解决方案】
创作高质量博文，分享知识，共同进步！
02-20 4137
🚀 探索CUDA内存溢出问题的多种解决方案！🔍 🌵 在深度学习和机器学习的旅程中，你是否曾遇到过“CUDA out of memory”的错误信息，让你的项目突然停滞不前？😵 不用担心，我们为你准备了多种场景下的解决方案！ 💡 无论是首次运行完整项目时的困惑，还是前几次执行顺利后突然遭遇的报错，我们都提供了具体的解决方法。无论是切换GPU，优化代码结构，还是使用显存分析工具，我们都有详细的步骤和提示。
RuntimeError: CUDA out of memory 解决办法
Wadewhl的博客
04-01 9360
服务器的gpu内存不够，导致程序运行失败。 问题如下： RuntimeError: CUDA out of memory. Tried to allocate 38.15 GiB (GPU 0; 31.75 GiB total capacity; 1.07 GiB already allocated; 26.18 GiB free; 3.45 GiB cached) 内存不够的解决办法： 1.不使用梯度方法 在test过程中，在dataloader循环前加入， with torch.no_grad():
PyTorch 显存爆炸｜RuntimeError: CUDA out of memory. 如何排查问题？
weixin_44935658的博客
10-09 5万+
可以看到这个机子有两张A5000，第一张卡显存是23953MiB / 24564MiB，快用完了，第二张是 18372MiB / 24564MiB，还有一点可以用。两个不同设备上的tensor运算，这个错误一般torch会报错的，但是也有非常隐晦的情况，比如不指明在哪个设备上的常量，需要手动发现。到了要检查代码这一步首先是看batch_size，但如果batch_size太大了应该是一个epoch都跑不了，在前向传播的时候甚至前向传播之前就会出问题了。，一般我会在命令行指定卡，而不是代码里。
一文解决 RuntimeError: CUDA out of memory. 全网最全
m0_50502579的博客
07-29 7万+
RuntimeError: CUDA out of memory. Tried to allocate 50.00 MiB (GPU 0; 4.00 GiB total capacity; 682.90 MiB already allocated; 1.62 GiB free; 768.00 MiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to
全网最全RuntimeError: CUDA error: out of memory解决方法
qq_37668436的博客
11-19 5万+
第一种情况 如果这个报错后面跟了想要占用多少显存但是不够这样的字眼，如下： 解决办法就很简单了： 改小batchsize，batchsize砍半可以差不多省掉一半的显存 推理阶段加上with torch.no_grad()，这个可以将修饰的代码段不要梯度，可以省掉很多显存 改小input的shape，例如(224,224)->(112,112)这样可以省掉一半的显存 换小的网络结构 用多卡训练，torch可以用model = nn.DataParallel(model)启用多卡训练，终端用CUDA
pytorch: 四种方法解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
热门推荐
xiyou__的博客
07-06 18万+
Bug：RuntimeError: CUDA out of memory. Tried to allocate … MiB 解决方法： 法一： 调小batch_size，设到4基本上能解决问题，如果还不行，该方法pass。 法二： 在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）： import torch, gc gc.collect() torch.cuda.empty_cache() 法三（常用方法）： 在测试阶段和验证阶段前插入代码 with torch.no_gr
大概率（5重方法）解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
定期分享我的发现和想法，感谢你的陪伴和支持
03-24 2万+
主机中的内存，有两种存在方式，一是锁页，二是不锁页，锁页内存存放的内容在任何情况下都不会与主机的虚拟内存进行交换（注：虚拟内存就是硬盘），而不锁页内存在主机内存不足时，数据会存放在虚拟内存中。显卡中的显存全部是锁页内存,当计算机的内存充足的时候，可以设置pin_memory=True。pin_memory就是锁页内存，创建DataLoader时，设置pin_memory=True，则意味着生成的Tensor数据最开始是属于内存中的锁页内存，这样将内存的Tensor转义到GPU的显存就会更快一些。
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
RuntimeError: CUDA out of memory（已解决）
雷恩Layne
09-01 12万+
今天用pytorch训练神经网络时，出现如下错误： RuntimeError: CUDA out of memory. Tried to allocate 144.00 MiB (GPU 0; 2.00 GiB total capacity; 1.29 GiB already allocated; 79.00 MiB free; 1.30 GiB reserved in total by PyTorch) 明明 GPU 0 有2G容量，为什么只有 79M 可用？ 并且 1.30G已经被PyTorch占用了。
项目实战：Qt+OSG爆破动力学仿真三维引擎测试工具v1.1.0（加载.K模型，子弹轨迹模拟动画，支持windows、linux、国产麒麟系统）
09-23 3978
1.使用osg三维引擎进行动力学模型仿真性能测试；2.打开动力学仿真模型文件，.k后缀的模型文件，测试加载解析过程；3.解决第三方company的opengl制作的三维引擎，绘制面较多与弹丸路径模拟较卡顿的问题；4.测试时，使用的模型为公开模型，基础面数量达到160多万个；5.测试时，模拟动画使用的时100万条弹丸路径平行飞射出去；
【Linux实践】实验四：Shell实用功能及文件权限
Fulling的博客
09-25 761
实验内容 1、使用命令“cat /etc/named.conf”设置为别名named，然后再取消别名。 2、使用echo命令和输出重定向创建文本文件/root/nn，内容是hello，然后再使用追加重定向输入内容为word。 3、使用管道方式分页显示/etc/passwd的内容。 4、分别用文字设定法和数字设定法，对/root/ab文件设置权限，所有者为读取、写入和执行权限，同组用户为读取和写入权限，其他用户没有任何权限。 5、将文件/root/ab所有者更改为用户zhangsan。 6、将目录/root/
Linux 安装redis主从模式+哨兵模式3台节点
最新发布
一千个读者就有一千个哈姆雷特
09-27 356
Linux 安装redis主从模式+哨兵模式3台节点
【linux】gcc makefile
Quietcoder的博客
09-24 1121
在静态链接中，链接器（如GNU的。
linux 源代码编译
Lxn2zh的博客
09-27 1303
有时候会在linux上下载源码包，然后进行编译成可执行的文件，这个过程需要经过configure、make、make install、make clean四个步骤。configure 为这个程序在当前的操作系统环境下选择合适的编译器和环境参数来编译该代码。make install 将已编译好的可执行文件安装到操作系统指定或默认的安装目录下。make 对程序代码进行编译操作，会将源码编译成可执行的目标文件。make clean 删除编译时临时产生的目录或文件。
Linux ping c实现
xuyun0565的专栏
09-24 421
linux下ping程序的c实现。
9.4 Linux_I/O_访问目录、文件属性
Fresh_man111的博客
09-25 380
返回值：成功返回指向打开的目录文件的结构体指针（流指针），失败返回NULLname：目录的路径fd：文件描述符返回值：成功返回0，失败返回EOFdirp：指向目录的流指针。
RuntimeError: CUDA out of memory 解决办法怎么清理GPU内存
05-15
"RuntimeError: CUDA out of memory" 错误通常是由于GPU内存不足导致的。以下是一些可能的解决办法： 1. 减少模型的batch size。 2. 减少模型的网络结构，例如使用更小的模型或者减少层数。 3. 使用更高效的算法或模型，例如使用混合精度训练、模型剪枝等。 4. 在训练过程中定期清理缓存，可以使用torch.cuda.empty_cache()函数清理缓存。 如果上述方法仍然无法解决问题，可以考虑购买更高内存的显卡或者将部分任务放在CPU上进行计算。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

欢天喜地小姐姐

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值