训练时正常，在验证时会爆显存的解决办法——with torch.no_grad():

最新推荐文章于 2024-06-07 21:23:03 发布
最新推荐文章于 2024-06-07 21:23:03 发布
阅读量2.5k 收藏 7
点赞数 4
分类专栏： 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_49230659/article/details/119783877
版权

最近在训练的时候，训练还正常，但在每个epoch训练之后的验证过程中会爆显存，在网上查阅资料之后，得知一个这样的方法：

with torch.no_grad():

这个函数加在model.eval()后面一行就行了，作用是在验证时禁止反向传播，亲测有效。

塔克拉玛干沙漠的卖水小孩
关注
  • 4
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
解决网络训练正常、测试显存爆炸的问题（model.eval()和torch.no_grad()的区别）
LJC的博客
07-27 4577
问题分析： 网络训练时正常，但测试中途却出现显存爆炸时。训练网络基本快占满了一张卡，这样测试时是有可能会显存爆炸。因为可能由于某张图测试的时候需要更大的显存，图像输入偏大等不确定因素。但测试的时候可以以更少的显存进行测试的。那就是使用**with torch.no_grad()**语句。测试代码修改大体如下所示： for i, image in enumerate(testLoader): # ...... (省略代码) with torch.no_grad(): # 主要将网络部分置于此即可
one hot编码：`torch.Tensor.scatter_()`函数用法详解
01-07
torch.Tensor.scatter_()是torch.gather()函数的方向反向操作。两个函数可以看成一对兄弟函数。gather用来解码one hot，scatter_用来编码one hot。 scatter_(dim, index, src) → Tensor dim (python:int) – 用来...
GPU显存泄露/显存溢出/显存爆炸 解决方案
dream6985的博客
08-07 2861
GPU显存泄露/显存溢出/显存爆炸 解决方案
【报错解决】深度学习模型训练时cuda内存足够但测试时反而报错cuda out of memory
最新发布
小白冲鸭的博客
06-07 845
第一行代码初始化模型，在cpu上进行，第二行代码，首先torch.load函数将模型参数加载到cpu上，然后model.load_state_dict函数加载模型到cpu上，第三行代码直接将整个模型放到gpu上，避免了重复加载模型参数，节省了gpu内存，就不会再造成cuda内存不够而报错了，第四行代码是将模型进行并行化处理，也就是说，如果你有多块gpu的话，这行代码可以将模型复制到多块gpu上进行并行化计算，当然如果你只有一块gpu或只有cpu，加了这行代码也没什么影响，不会报错。
【转】解决内存/显存泄露的方法 pytorch
fanyue1997的博客
12-12 1619
def debug_memory(): import collections, gc, resource, torch print('maxrss = {}'.format( resource.getrusage(resource.RUSAGE_SELF).ru_maxrss)) tensors = collections.Counter((str(o.device), o.dtype, tuple(o.shape)) .
torch显存分析——对生成模型清除显存
weixin_44826203的博客
08-02 1093
本文主要针对生成场景下，如何方便快捷地清除当前进程占用的显存。文章的重点不止是对显存的管理，还包括怎样灵活的使用自定义组件来控制生成过程。
在训练过程中跑验证集导致显存out of memory问题。
等待戈多的博客
05-02 2854
文章目录前言正文总结 前言 在训练模型时，笔者想要每训练一个epoch，记录一下val的准确率，但是每当训练完第一个epoch开始准备跑val数据集的时候，就会出现显存double然后溢出的情况（batch_size在验证和训练时设置相同）。此处将复现笔者出现的问题，并给出解决方案。 正文 原始训练流程： for eopch in epochs: for data,label in train_dataloader： model.train() train(model,data,label)
with torch.no_grad():显著减少测试时显存占用
qq_61888524的博客
10-17 4123
问题描述 将训练好的模型拿来做inference，发现显存被占满，无法进行后续操作，但按理说不应该出现这种情况。 RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0; 7.93 GiB total capacity; 6.94 GiB already allocated; 10.56 MiB free; 7.28 GiB reserved in total by PyTorch) 解决方案 ...
torch.cuda.is_available（）返回False解决方案
12-21
在使用PyTorch进行深度学习时，我们常常需要利用GPU的计算能力来加速模型的训练。`torch.cuda.is_available()` 是一个重要的函数，用于检查当前系统是否能够使用CUDA，即NVIDIA的GPU加速库。当这个函数返回 `False` ...
Pytorch训练过程中改变模型参数 requires_grad 属性
01-20
当`requires_grad=True`时，PyTorch会在执行反向传播时计算该张量的梯度，这对于训练神经网络至关重要。在训练过程中，有时我们可能需要在不同阶段动态地更改某些模型参数的`requires_grad`属性，例如在迁移学习中...
torch.cuda.is_available()返回False的问题解决
04-02
torch.cuda.is_available()返回False的问题解决
解决Pytorch 训练与测试时爆显存(out of memory)的问题
09-18
今天小编就为大家分享一篇解决Pytorch 训练与测试时爆显存(out of memory)的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
mmdetection 常见问题及错误记录
01-06
1、GPU下出现/pytorch/aten/src/ATen/native/cuda/IndexKernel.cu:53: lambda [](int)->auto::operator()(int)->auto: block: [9,0,0], thread: [32,0,0] Assertion `index >= -sizes[i] && index < sizes[i] && index out of bounds` failed.问题 GPU上运行神经网络模型，是使用多线程并行加速的，如果出错，真正的错误信息很容易被cuda的错误信息淹没，所以难以看到错误信息，一般引起问题的原因是
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.... with torch.no_grad(): # 停止自动反向计算梯度 参考： https://wisdomai.xyz/tool/pytorch/archives/2301 https://ptorch.com/news/160.html 作者：菜叶儿掉啦
【科研小小白的神经网络Day4】with torch.no_grad():函数的理解，
imblackcat的博客
05-31 307
内含上下文文管理器这一概念，有了上下文管理器，with语句才能工作 上下文表达式：With 关键字之后的表达式，该表达式要返回一个上下文管理器对象。
显存不够？试试with torch.no_grad():！
m0_74982304的博客
06-18 462
在我训练完IDDPM后，想要用他进行超分辨率，总是遇到的问题，一开始我以为是我的3050太拉，于是去了Autodl的4090，发现一样显存不足，最后通过小小的。
训练模型时候显存爆炸的一种可能性以及解决办法
qq_38331273的博客
04-29 3003
转载：https://wstchhwp.blog.csdn.net/article/details/108405102 模型训练的时候，爆显存了，可以调整batch，对数据进行crop等等操作。 今天发现一个模型，训练ok，每次测试的时候爆显存。开始以为是因为用了全图（1920x1080略大）进行inference，这是一方面。但后来发现忘了用with torch.no_grad():这导致模型运算的时候不能释放显存（记录了梯度信息），所以显存巨大。加了之后，用了不过3G显存就够了。确实inference不
训练没问题测试报内存溢出：RuntimeError: CUDA out of memory...
qq_40041133的博客
10-21 1568
OOM报错如图所示： 训练跑得好好的，怎么测试的时候反倒报错了呢？ 原来是没有加with torch.no_grad()，在测试的时候有gradient容易报内存溢出，加上： with torch.no_grad(): testY = model(testX) 再跑代码就OK了。 ...
解决pytorch训练时正常测试时爆显存的问题
qq_34597253的博客
10-28 3345
问题： Runtime Error: CUDA out of memory. 解决方案： 1.降低batch_size, 有时候管用，有时候不管用 2. 测试时，with torch.no_grad() def early_test(self): with torch.no_grad(): self.model.eval() for path i...
with torch.no_grad():在网络训练过程中的含义
05-20
在模型训练过程中，我们需要计算梯度以便于进行反向传播优化，但是有些情况下我们并不需要计算梯度，比如验证集上的评估，这时候也可以使用 `with torch.no_grad():` 来关闭梯度计算。 使用 `with torch.no_grad():...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值