Pytorch GPU显存充足却显示out of memory解决办法

最新推荐文章于 2024-06-30 23:24:39 发布
最新推荐文章于 2024-06-30 23:24:39 发布
阅读量2.6w 收藏 12
点赞数 1
分类专栏： python pytorch GPU 文章标签： python pytorch GPU out of memory
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43155243/article/details/91855612
版权
python 同时被 3 个专栏收录
10 篇文章 0 订阅
订阅专栏
pytorch
3 篇文章 0 订阅
订阅专栏
GPU
1 篇文章 0 订阅
订阅专栏

今天在测试一个pytorch代码的时候显示显存不足，但是这个网络框架明明很简单，用CPU跑起来都没有问题，GPU却一直提示out of memory.

在网上找了很多方法都行不通，最后我想也许是pytorch版本的问题，原来我的pytorch版本是0.4.1，于是我就把这个版本卸载，然后安装了pytorch1.1.0，程序就可以神奇的运行了，不会再有OOM的提示了。虽然具体原因还不知道为何，这里还是先mark一下，具体过程如下：

卸载旧版本pytorch：

conda uninstall pytorch

安装pytorch1.1.0，按照官网上的办法，我的CUDA版本是9.0：

conda install pytorch torchvision cudatoolkit=9.0 -c pytorch

大功告成!

imaginist233
关注
  • 1
    点赞
  • 踩
  • 12
    收藏
    觉得还不错? 一键收藏
  • 13
    评论
专栏目录
python运行提示显卡内存不足_Pytorch GPU显存充足却显示out of memory的解决方式
weixin_39890327的博客
12-08 1万+
Pytorch GPU显存充足却显示out of memory的解决方式今天在测试一个pytorch代码的时候显示显存不足，但是这个网络框架明明很简单，用CPU跑起来都没有问题，GPU却一直提示out of memory.在网上找了很多方法都行不通，最后我想也许是pytorch版本的问题，原来我的pytorch版本是0.4.1，于是我就把这个版本卸载，然后安装了pytorch1.1.0，程序就可以...
Pytorch GPU 显存溢出 Out of Memory 如何处理
郑哲东的博客
05-19 7805
在不修改网络结构的情况下, 有如下操作： 同意 @Jiaming , 尽可能使用inplace操作， 比如relu 可以使用 inplace=True 。一个简单的使用方法，如下： def inplace_relu(m): classname = m.__class__.__name__ if classname.find('ReLU') != -1: m.inplace=True #model.apply(inplace_relu) 2.进一步，...
Pytorch GPU显存充足却显示out of memory的解决方式
09-18
今天小编就为大家分享一篇Pytorch GPU显存充足却显示out of memory的解决方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
GPU很空闲总是提示GPU out of memeory
zhuiyuanzhongjia的博客
06-30 2万+
nvidia-smi 和watch -n 1 nvidia-smi命令显示GPU占用为0,没有进程使用 GPU0上有11G空闲，但是训练模型时报错： 提示： CUDA out of memory. Tried to allocate 1.12 GiB (GPU 0; 11.17 GiB total capacity; 9.99 GiB already allocated; 877.75 MiB free; 1.25 MiB cached) 需要1.12G内存，但是不够。明明有11.17G啊！
深度学习CUDA Out of Memory原因总结和方法
最新发布
PeterClerk的博客
06-30 714
CUDA Out of Memory原因总结和方法
解决Conda中出现的 “Solving environment: failed“ 或 “一直在‘Solving environment: \‘ “问题
热门推荐
FriendshipTang的博客
11-05 3万+
解决Conda中出现的 "Solving environment: failed" 或 "一直在'Solving environment: \' "问题解决方法 解决方法 在Anaconda Prompt下输入命令： conda update -n base conda 等待conda更新完成即可！
gpu out of memory
qq_43248104的博客
08-11 410
nohup 命令，在默认情况下（非重定向时），会输出一个名叫 nohup.out 的文件到当前目录下，如果当前目录的 nohup.out 文件不可写，输出重定向到$HOME/nohup.out 文件中。nohup 英文全称 no hang up（不挂起），用于在系统后台不挂断地运行命令，退出终端不会影响程序的运行。应该是这几个进程预定了显存却没有使用，造成out of memory却nvidia-smi发现显卡空闲。&：让命令在后台执行，终端退出后命令仍旧执行。Arg：一些参数，可以指定输出文件。
如何处理GPU训练显存不足[memory isn&apos；t enough][alloc failed][out of memory]
Kenji_Shinji的博客
09-13 3450
输出tensor里会挂接device上的地址，方便print时同步device数据输出，在tensor析构的时候会释放device地址，因此如果每次step训练都把输出tensor保存起来的话，导致tensor不会析构，随着训练step的增加则会OOM。前面步骤确认都没有问题的话，则有可能是算子实现bug，这块需要对算子实现有一定的基础了解，可以排查下是否有新增算子，算子里是否有申请显存的操作导致显存泄漏。申请内存，导致随着训练step增加出现OOM，可以搜索代码查看算子的Launch中是否有调用。
讲解pytorch 优化GPU显存占用，避免out of memory
牛肉胡辣汤
12-26 3697
"GPU out of memory"是指在使用GPU进行深度学习任务时，由于GPU显存不足，导致无法分配足够的显存空间来存储模型、数据和计算中间结果，从而导致程序运行失败。在深度学习任务中，对于复杂的神经网络和大规模的训练数据，显存占用成为一个常见的问题。当我们的模型和数据超出GPU显存的限制时，就会出现"out of memory"的错误。为了解决这个问题，我们可以采取一些优化策略来降低显存的占用。通过上述这些优化策略，我们可以有效地降低GPU显存的占用，避免"out of memory"错误的发生。
解决Pytorch 训练与测试时爆显存(out of memory)的问题
09-18
在使用PyTorch进行深度学习模型的训练和测试过程中，可能会遇到“显存溢出”（Out of Memory，OOM）的问题。这个问题通常是由于GPU内存不足以存储所有计算所需的张量而导致的。以下是一些解决PyTorch训练与测试时...
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
pytorch 限制GPU使用效率详解(计算效率)
12-17
而在PyTorch中，推荐使用`torch.utils.data.DataLoader`，通过设置`num_workers`参数来创建多个线程并行加载数据，如`num_workers=8`，同时设置`pin_memory=True`可以进一步优化内存访问速度。 当处理大量数据或...
pytorch本来正常使用的代码突然out of memory
pytorch在不同的层设置不同的学习率
12-29 6403
最近在在一台新的服务器上安装了pytorch，将之前的网络移植过来跑却out of memory了，仔细看了代码没有发现什么问题。最后发现是安装的pytorch版本太低了。 首先查看pytorch版本： import torch print (torch.__version__)我发现安装的是0.1.12版本的，与现在不符合，需要更新pytorch。 我是用conda更新pytorch conda
找不到GPU资源——[显存充足，但是却出现CUDA error:out of memory错误]
椰子奶糖的博客
02-03 3万+
说明: 系统：Centos（Redhat） 环境：python3.6+pytorch1.4.0（gpu）+tensorflow2.0.0（cpu） Cuda：9.2 Cudnn：7.0.6？ 模型 YOLOv3 描述 图找不到了，就去隔壁偷了一张（传送） 在运行git上的yolov3目标检测项目的时候尝试使用GPU加速，结果爆出CUDA error:out of memory 隔壁说是找不...
Anaconda中 conda install / Solving environment 速度慢问题其中一些可能的方法
buaa_zhn的博客
03-03 1万+
在使用Anaconda中的conda install来安装包的时候会卡在Solving environment这一步,有时候还会多次失败重试
Solving environment: 的斜杠为啥一直转
weixin_35754676的博客
02-16 1万+
"Solving environment: 的斜杠一直转" 这个信息通常出现在使用conda安装软件包时，表示conda正在尝试解决软件包的依赖关系，以确保软件包能够正常安装。 当出现斜杠一直转的情况时，可能是由于conda正在下载或安装大量软件包，需要一些时间来完成这些任务。可以耐心等待一段时间，如果等待时间太长，可以尝试停止当前的conda操作，然后再次运行相同的命令，看看能否解决问题。 如果...
【释放GPU内存】OutOfMemoryError: CUDA out of memory
weixin_43941438的博客
05-26 8806
使用torch.cuda.empty_cache()方法来释放PyTorch的缓存，以释放一部分被PyTorch占用的GPU内存。这种情况可能是之前的训练占用了显存，没被释放。命令，可以查看到CUDA已经被快被占满。
解决：RuntimeError: CUDA out of memory.
ln01010的博客
07-22 2311
利用pytorchGPU训练深度模型时出现RuntimeError:CUDA out of memory问题解决方案
pytorch gpu显存充足却显示out of memory的解决方式
04-30
在使用PyTorch进行深度学习训练时，如果出现GPU显存充足却显示out of memory的情况，可能有以下几种解决方式： 1. 使用更小的batch size进行训练。将batch size设置得更小可以减少显存的消耗，从而避免out of memory的错误。 2. 减少网络的层数和参数量。过多的网络层数和参数量会占用大量的显存资源，因此可以通过减少网络的层数和参数量来降低显存的消耗。 3. 使用半精度浮点数（half-precision）进行训练。半精度浮点数可以减少显存的使用，从而提高训练速度和减少显存的占用。 4. 清理缓存。在每个epoch训练之后，使用`torch.cuda.empty_cache()`来清理缓存，释放显存资源。 5. 升级GPU显存。如果以上方法无法解决问题，那么可以考虑升级GPU显存，以提高显存资源的容量。 总的来说，出现GPU显存充足却显示out of memory错误，需要从减少显存消耗和增加显存资源两个方面着手解决。
评论 13
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值