Pytorch GPU显存充足却显示out of memory解决办法

最新推荐文章于 2023-08-11 14:14:52 发布
最新推荐文章于 2023-08-11 14:14:52 发布
阅读量2.6w 收藏 12
点赞数 1
分类专栏： python pytorch GPU 文章标签： python pytorch GPU out of memory
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43155243/article/details/91855612
版权
python 同时被 3 个专栏收录
10 篇文章 0 订阅
订阅专栏
pytorch
3 篇文章 0 订阅
订阅专栏
GPU
1 篇文章 0 订阅
订阅专栏

今天在测试一个pytorch代码的时候显示显存不足，但是这个网络框架明明很简单，用CPU跑起来都没有问题，GPU却一直提示out of memory.

在网上找了很多方法都行不通，最后我想也许是pytorch版本的问题，原来我的pytorch版本是0.4.1，于是我就把这个版本卸载，然后安装了pytorch1.1.0，程序就可以神奇的运行了，不会再有OOM的提示了。虽然具体原因还不知道为何，这里还是先mark一下，具体过程如下：

卸载旧版本pytorch：

conda uninstall pytorch

安装pytorch1.1.0，按照官网上的办法，我的CUDA版本是9.0：

conda install pytorch torchvision cudatoolkit=9.0 -c pytorch

大功告成!

imaginist233
关注
  • 1
    点赞
  • 踩
  • 12
    收藏
    觉得还不错? 一键收藏
  • 13
    评论
专栏目录
【已解决】探究CUDA out of memory背后原因，如何释放GPU显存？
2401_83817122的博客
04-22 1019
关于CUDA GPU显存管理GPU显存占用率和存入的数据尺寸成正相关，越大的数据占用显存越多只要使用了GPU，就至少会占x自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！
Pytorch GPU 显存溢出 Out of Memory 如何处理
郑哲东的博客
05-19 7783
在不修改网络结构的情况下, 有如下操作： 同意 @Jiaming , 尽可能使用inplace操作， 比如relu 可以使用 inplace=True 。一个简单的使用方法，如下： def inplace_relu(m): classname = m.__class__.__name__ if classname.find('ReLU') != -1: m.inplace=True #model.apply(inplace_relu) 2.进一步，...
解决Pytorch 训练与测试时爆显存(out of memory)的问题
09-18
今天小编就为大家分享一篇解决Pytorch 训练与测试时爆显存(out of memory)的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
GPU很空闲总是提示GPU out of memeory
zhuiyuanzhongjia的博客
06-30 2万+
nvidia-smi 和watch -n 1 nvidia-smi命令显示GPU占用为0,没有进程使用 GPU0上有11G空闲，但是训练模型时报错： 提示： CUDA out of memory. Tried to allocate 1.12 GiB (GPU 0; 11.17 GiB total capacity; 9.99 GiB already allocated; 877.75 MiB free; 1.25 MiB cached) 需要1.12G内存，但是不够。明明有11.17G啊！
解决Conda中出现的 “Solving environment: failed“ 或 “一直在‘Solving environment: \‘ “问题
FriendshipTang的博客
11-05 3万+
解决Conda中出现的 "Solving environment: failed" 或 "一直在'Solving environment: \' "问题解决方法 解决方法 在Anaconda Prompt下输入命令： conda update -n base conda 等待conda更新完成即可！
gpu out of memory
最新发布
qq_43248104的博客
08-11 398
nohup 命令，在默认情况下（非重定向时），会输出一个名叫 nohup.out 的文件到当前目录下，如果当前目录的 nohup.out 文件不可写，输出重定向到$HOME/nohup.out 文件中。nohup 英文全称 no hang up（不挂起），用于在系统后台不挂断地运行命令，退出终端不会影响程序的运行。应该是这几个进程预定了显存却没有使用，造成out of memory却nvidia-smi发现显卡空闲。&：让命令在后台执行，终端退出后命令仍旧执行。Arg：一些参数，可以指定输出文件。
Anaconda中 conda install / Solving environment 速度慢问题其中一些可能的方法
buaa_zhn的博客
03-03 1万+
在使用Anaconda中的conda install来安装包的时候会卡在Solving environment这一步,有时候还会多次失败重试
Solving environment: 的斜杠为啥一直转
weixin_35754676的博客
02-16 1万+
"Solving environment: 的斜杠一直转" 这个信息通常出现在使用conda安装软件包时，表示conda正在尝试解决软件包的依赖关系，以确保软件包能够正常安装。 当出现斜杠一直转的情况时，可能是由于conda正在下载或安装大量软件包，需要一些时间来完成这些任务。可以耐心等待一段时间，如果等待时间太长，可以尝试停止当前的conda操作，然后再次运行相同的命令，看看能否解决问题。 如果...
解决：RuntimeError: CUDA out of memory.
ln01010的博客
07-22 2232
利用pytorchGPU训练深度模型时出现RuntimeError:CUDA out of memory问题解决方案
Pytorch GPU显存充足却显示out of memory的解决方式
09-18
今天小编就为大家分享一篇Pytorch GPU显存充足却显示out of memory的解决方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
明明显存充足 报错 不足_24GB海量显存加持的RTX 3090为何被称为生产力神器？
weixin_39684898的博客
12-27 406
基于NVIDIA Ampere架构的RTX 30系列显卡一上市就以超强的性能、超高性价比吸引了众多玩家追捧，而其中的终极旗舰RTX 3090更是成为了当前最强显卡，也是当前唯一一款能在8K分辨率下流畅体验光追游戏大作的显卡，堪称游戏玩家的顶级选择。不过，RTX 3090绝非只是游戏霸主，它除了本身具备顶级计算能力之外，还配备了高达24GB的海量显存，因此在NVIDIA的市场策略中，它还是一款专为内...
pytorch本来正常使用的代码突然out of memory
pytorch在不同的层设置不同的学习率
12-29 6386
最近在在一台新的服务器上安装了pytorch，将之前的网络移植过来跑却out of memory了，仔细看了代码没有发现什么问题。最后发现是安装的pytorch版本太低了。 首先查看pytorch版本： import torch print (torch.__version__)我发现安装的是0.1.12版本的，与现在不符合，需要更新pytorch。 我是用conda更新pytorch conda
pytorch在测试时显存增加
weixin_42863990的博客
10-14 984
在训练中的过程中，会使用以下代码清空optimizer的梯度： optimizer.zero_grad() 虽然在test过程中梯度不需要反向传播，但是网络还是会保存optimizer的梯度，如果optimizer保存在cuda中，显存就会逐渐增大。 解决方法： with torch.no_grad(): for batch_idx, (img, label) in enumerate(testloader): img, label
pytorch: 四种方法解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
热门推荐
xiyou__的博客
07-06 17万+
Bug：RuntimeError: CUDA out of memory. Tried to allocate … MiB 解决方法： 法一： 调小batch_size，设到4基本上能解决问题，如果还不行，该方法pass。 法二： 在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）： import torch, gc gc.collect() torch.cuda.empty_cache() 法三（常用方法）： 在测试阶段和验证阶段前插入代码 with torch.no_gr
解决tensorflow gpu报错: ran out of memory (OOM)
pyxiea
10-22 1万+
报错原因及解决方案 报错现象： Allocator (GPU_0_bfc) ran out of memory trying to allocate 200.00MiB (rounded to 209715200). Current allocation summary follows. <省略> Resource exhausted: OOM when allocating ten...
“实战深度学习”-缺陷：ran out of memory错误解决办法
文山
12-11 2578
调整代码在Data这部分使用cpu。设置较小的batch size。
解决gpu没有运行进程，但是显存一直占用的方式
大鱼的博客
10-19 3万+
通常情况下，停止进程显存会释放 但是如果在不正常情况关闭进程，可能不会释放，这个时候就会出现这样的情况： Mon Oct 19 16:00:00 2020 +-----------------------------------------------------------------------------+ | NVIDIA-SMI 410.104 Driver Version: 410.104 CUDA Version: 10.0 | |-------
TF报错：CUDA_ERROE_OUT_OF_MEMORY
行走的IT
11-14 4558
I tensorflow/core/common_runtime/gpu/gpu_device.cc:975] Creating TensorFlow device (/gpu:0) -> (device: 0, name: GeForce GTX 860M, pci bus id: 0000:01:00.0) E tensorflow/stream_executor/cuda/cuda_dnn.c
pytorch gpu显存充足却显示out of memory的解决方式
04-30
在使用PyTorch进行深度学习训练时，如果出现GPU显存充足却显示out of memory的情况，可能有以下几种解决方式： 1. 使用更小的batch size进行训练。将batch size设置得更小可以减少显存的消耗，从而避免out of memory的错误。 2. 减少网络的层数和参数量。过多的网络层数和参数量会占用大量的显存资源，因此可以通过减少网络的层数和参数量来降低显存的消耗。 3. 使用半精度浮点数（half-precision）进行训练。半精度浮点数可以减少显存的使用，从而提高训练速度和减少显存的占用。 4. 清理缓存。在每个epoch训练之后，使用`torch.cuda.empty_cache()`来清理缓存，释放显存资源。 5. 升级GPU显存。如果以上方法无法解决问题，那么可以考虑升级GPU显存，以提高显存资源的容量。 总的来说，出现GPU显存充足却显示out of memory错误，需要从减少显存消耗和增加显存资源两个方面着手解决。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 13
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值