pytorch代码中同时进行训练和验证时显示内存爆炸

最近在写pytorch代码时,在每个epoch下训练和验证数据,但是每次训练完数据后进行验证时程序就会报错:

RuntimeError: CUDA out of memory. Tried to allocate 74.00 MiB (GPU 0; 11.75 GiB total capacity; 10.15 GiB already allocated; 16.81 MiB free; 157.35 MiB cached)

经过参考:
https://www.cnblogs.com/liuzhan709/p/10053009.html
在训练验证集时没有使用torch.no_grad()函数才会出现这种错误,因为在验证时不需要计算梯度。除了使用torch.no_grad()函数外,也可以使用

# eval
torch.set_grad_enabled(False)
...	# your test code
torch.set_grad_enabled(True)

参考:
https://blog.csdn.net/weixin_46559271/article/details/105658654

我用的是上述第二种方法,成功解决问题。

多学习,多记录,多进步,加油!

  • 3
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值