Pytorch训练遇到显存充足但显示显存不足，RuntimeError: cuDNN error:RuntimeError: cuDNN error:等问题

已于 2023-10-08 11:21:53 修改
阅读量1.1k 收藏 3
点赞数
文章标签： pytorch python 深度学习
于 2023-10-08 11:21:17 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Game__Zero/article/details/133673822
版权

Pytorch训练遇到显存充足但显示显存不足，RuntimeError: cuDNN error:RuntimeError: cuDNN error:等问题

同一任务会出现不同error例如：

RuntimeError: GET was unable to find an engine to execute this computation
RuntimeError: cuDNN error: CUDNN_STATUS_EXECUTION_FAILED 
显存不足 GPU 0 has a total capacty of 8.00 GiB of which 4.76 GiB is free.
以及pip安装第三方库时出现MemoryError

等问题的一个原因：
虚拟内存不足。没有给项目所在盘符分配虚拟内存。
解决方法：Windows搜索 查看高级系统设置->高级->设置->高级
在这里插入图片描述
分别设置C、D、E盘的虚拟内存（选择盘符->自定义大小->设置）。
网上也有说torch版本不对，降版本，但我试了，还是这个管用。

你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。

Game__Zero
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
RuntimeError: GET was unable to find an engine to execute this computation问题原因及解决办法
和大家一起涨芝士
11-22 2843
RuntimeError: GET was unable to find an engine to execute this computation问题原因及解决办法
GET was unable to find an engine to execute this computation解决方案
AI蜗牛车
06-20 4029
错误好久没玩torch了，直接装了个最新版本的torch2.0.1+cu117版本， python是3.9之后在运行代码的时候出现了以下的错误RuntimeError: GET was unable to find an engine to execute this computation如果要是cpu跑没有任何报错，但是如果是gpu跑的话就会出现如上错误classCNNModel(nn.Mod...
visualGLM部署过程中遇到的GET was unable to find an engine to execute this computation
windmyself的专栏
07-11 1018
原因猜测是因为torch版本过高，但是torchvision版本过低或者不兼容导致的，所以回退了底一版本的torch2.0.0。执行命令完成torch、torchvision、torchaudio降级。如下图所示，只需要不到1.5个G。
【pytorch】报错：RuntimeError: GET was unable to find an engine to execute this computation
sinat_37024730的博客
01-16 932
在anaconda自建的环境中，使用pip安装完pytorch之后运行yolov5程序报错。使用“pip install chardet”安装完模块之后，程序就能正常运行了。换成conda安装pytorch。
RuntimeError: GET was unable to find an engine to execute this computation
studyeboy的专栏
12-27 3260
CUDA版本是11.1，虚拟环境中安装的torch是2.0.0，首先调用torch出现问题。在该虚拟环境中重新安装torch，还是没生成nvidia这个文件。从其他的文件中将文件拷贝到虚拟环境的对应包下。检测torch和cuda是否能用。解决上述问题后又出现问题。检查cudnn是否可用。
cv学习笔记-yolov5demo
qq_43979221的博客
04-25 1431
运行coco数据集时较慢，在双2080ti上每个epoch大概6分钟（yolov5s.yaml --batch-size 64），300个大概运行30小时（暂时还没运行完），使用1080机器运行每个epoch要十几分钟（yolov5n.yaml --batch-size 128）就关掉了。经过查资料应该是cuda版本和torch版本不匹配，使用nvidia-smi查看cuda版本，显示为11.4，然后去pytorch官网找老版本，没有11.4对应版本，查找资料说是可以使用11.3的，
问题RuntimeError: GET was unable to find an engine to execute this computation
qq_55795524的博客
11-29 1537
改代码 device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')为 device = torch.device('cuda:2' if torch.cuda.is_available() else 'cpu')解决。命令nvidia-smi查看服务器。发现cuda0内存被占满了。
PyTorch 轻松节省显存的小技巧
lucifer479的博客
07-18 6444
如今的深度学习发展的如火如荼，相信各行各业的大家都或多或少接触过深度学习的知识。显存不足是很多人感到头疼的问题，毕竟能拥有大量显存的实验室还是少数，而现在的模型已经越跑越大，模型参数量和数据集也越来越大。在别人的Batchsize在32甚至64以上时，我们还在为强行塞下1个Batch而努力。以下给大家提供一些节省PyTorch显存占用的小技巧，虽然提升不大，但或许能帮你达到可以勉强运行的及格线。...
linux或windows环境下pytorch的安装与检查验证(解决runtimeerror问题)
09-14
主要介绍了linux或windows环境下pytorch的安装与检查验证(解决runtimeerror问题),需要的朋友可以参考下
编译DCNv2网络：error: command 'C:\\Program Files\\NVIDIAGPUComputingToolkit\\CUDA\\v1
11-20
编译DCNv2网络：error: command 'C:\\Program Files\\NVIDIAGPUComputingToolkit\\CUDA\\v10.0\\bin\\nvcc.exe'
解决Pytorch 加载训练好的模型 遇到的error问题
12-23
pytorch 已经非常友好了 保存模型和加载模型都只需要一条简单的命令 #保存整个网络和参数 torch.save(your_net, 'save_name.pkl') #加载保存的模型 net = torch.load('save_name.pkl') 因为我比较懒我就想直接把...
【问题记录】RuntimeError: GET was unable to find an engine to execute this computation
最新发布
yokon的博客
03-29 360
当网络输出结果中包含少量负值，训练代码可以正常跑通，当出现大量负值时，会出现大量不同的关于CUDA的报错警告信息。问题解决：对于这类问题的解决要点在于BN和RELU等结构的适当调整，以个人经验看来适当控制网络输出，增加激活函数来减少网络负值现象，能够有效解决此类问题。在神经网络搭建设计过程中遇到关于CUDA报错（指搜索结果的指向），实际问题出现在网络的损失计算阶段（这里使用交叉熵损失函数、二元交叉熵、*小技巧：对于调试过程中不显示报错位置，错误比较模糊的可以调用os精准化报错信息。
RuntimeError: cuDNN error: CUDNN_STATUS_NOT_INITIALIZED
qq_18854303的博客
04-09 982
RuntimeError: cuDNN error: CUDNN_STATUS_NOT_INITIALIZED
pytorch报错：RuntimeError: CUDA out of memory.（CUDA内存不足）
热门推荐
qq_35091353的博客
05-20 2万+
查看GPU的运行状况 程序运行中可以通过watch -n 0.1 -d nvidia-smi命令来实时查看GPU占用情况，按Ctrl+c退出 通过nvidia-smi命令来查看某一时刻的GPU的占用情况 1、训练阶段 如果是训练时遇到该问题，说明模型的参数太多了，将模型的参数减少该问题就解决了，改小batch_size是不能解决的（我将batch_size设为1都没解决，而且报错时的内存数据都没变），因此，出现这个问题，应该有三个原因： GPU还有其他进程占用显存，导致本进程无法分配到足够的显存 缓
在GPU上运行程序时报错：RuntimeError: Unable to find a valid cuDNN algorithm to run convolution
qq_44955984的博客
02-04 4938
一、对于已经安装好了pytorch，cudn的情况下，一般都是因为自己笔记本的GPU内存不够导致的，解决方法如下： 1）调小batch_size的数值 2）换电脑吧，买GPU内存大的 3）最好还是用服务器跑深度学习的程序，在家的话可以在服务器和自己电脑上安装nomachine，这样就可以远程访问服务器了。 ...
Pytorch运行过程中解决出现内存不足的问题
weixin_45913084的博客
03-15 1万+
1. 前提 利用Transformer模型进行O3浓度的反演 2. 问题 2.1 速度慢 一开始模型是在CPU上面跑的，为了加快速度，我改成了在GPU上跑 方法如下： 1、验证pytorch是否存在GPU版本 在Pycharm命令行输入 import torch print(torch.cuda.is_available) # 若输出为True,则存在GPU版本 # 若输出为False,则不存在GPU版本 我的输出为True，说明pytorch是存在GPU版本的 2、将模型从CPU版本转换到GPU版本
pytorch显存不足
12-22
当使用PyTorch训练神经网络时，显存不足是一个常见的问题。显存主要被网络模型和中间变量占用。网络模型中的参数占用显存，而中间变量包括特征图和优化器等是消耗显存最多的部分。以下是一些节省PyTorch显存占用的小技巧： 1. 减少批量大小（batch size）：减少每个批次中样本的数量可以减少显存的使用量。但是要注意，较小的批量大小可能会影响模型的训练效果。 2. 使用半精度浮点数（half-precision floating point）：PyTorch支持使用半精度浮点数进行训练，可以减少显存的使用量。可以使用`torch.cuda.amp`模块来实现自动混合精度训练。 3. 及时释放不需要的显存：在训练过程中，可以使用`torch.cuda.empty_cache()`来释放不需要的显存。 4. 减少模型参数的数量：可以通过减少网络模型的大小或使用更简单的模型来减少显存的使用量。 5. 使用分布式训练：如果有多个GPU可用，可以使用分布式训练来减少每个GPU上的显存使用量。 6. 使用梯度累积（gradient accumulation）：将多个小批次的梯度累积起来更新模型参数，可以减少每个小批次的显存使用量。 7. 使用PyTorch的优化器优化显存使用：PyTorch提供了一些优化器，如`torch.optim`中的`pack_padded_sequence`和`pad_packed_sequence`，可以优化处理变长序列时的显存使用。 8. 使用PyTorch的分布式数据并行（DistributedDataParallel）：可以使用`torch.nn.DataParallel`或`torch.nn.parallel.DistributedDataParallel`来在多个GPU上并行训练模型，从而减少每个GPU上的显存使用量。 这些方法可以帮助您在PyTorch中节省显存占用，但请注意，根据您的具体情况，可能需要根据实际情况进行调整和尝试。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值