torch.backends.cudnn.enabled = False会引起CUDA out of memory和CUDA error: an illegal memory access was

已于 2023-11-14 11:43:35 修改
阅读量607 收藏 1
点赞数
分类专栏： 训练过程走过的坑（bushi 文章标签： 深度学习 pytorch 人工智能
于 2023-11-05 13:22:29 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_61762695/article/details/134229145
版权
文章讲述了在使用PyTorch训练时遇到的错误，可能由于torch.backends.cudnn相关设置导致。解决方法包括注释掉不必要的加速代码、逐步减小batchsize、调用torch.cuda.empty_cache()释放内存，以及考虑更换硬件资源。
摘要由CSDN通过智能技术生成

一般会在训练的时候报错，因为代码中通常有torch.backends.cudnn.benchmark = True做加速，

可能是torch版本的问题，我的版本是2.0.1，换版本后问题还在，其实根据提示把所有与他有关的代码注释掉就可以了。

    # torch.backends.cuda.matmul.allow_tf32 = False
    # torch.backends.cudnn.benchmark = True
    # torch.backends.cudnn.deterministic = False
    # torch.backends.cudnn.allow_tf32 = True

这一系列代码全部都注释掉，问题解决。

实践过程中如果爆显存了，有哪些解决办法：

1.batch逐渐减小试试，64->32->16->8
2.    torch.cuda.empty_cache() 删除碎片化的内存可以试试

3.换电脑或服务器(bushi

编程被我拿捏住了
关注
专栏目录
pytorch之torch.backends.cudnn.benchmark=True——使用 GPU 来加速网络的训练
夏普通
06-04 2000
import torch torch.backends.cudnn.enabled = True torch.backend.cudnn.benchmark=True cuDNN使用非确定性算法，并且可以使用torch.backends.cudnn.enabled = False来进行禁用 如果设置为torch.backends.cudnn.enabled =True，说明设置为使用使用非确定性算法 然后再设置： torch.backends.cudnn.benchmark = True 所以我们经常看见
torch.backends.cudnn.benchmark = True==cudnn安装成功？
hb_learing的博客
11-22 1221
设置 torch.backends.cudnn.benchmark=True 将会让程序在开始时花费一点额外时间，为整个网络的每个卷积层搜索最适合它的卷积实现算法，进而实现网络的加速.
pytorch禁用cudnn（一行代码）
12-08
pytorch禁用cudnn（只有一行代码） torch.backends.cudnn.enabled = False
torch.backends.cudnn.enabled
u013358323的博客
09-08 3082
记录一下： torch.backends.cudnn.enabled = False this solution might increase the memory usage since it will disable cudnn for other modules like Cov2d. 引用自：https://github.com/traveller59/second.pytorch/issues/293
torch.backends.cudnn
南城以北的博客
04-19 1206
在使用GPU的时候，PyTorch会默认使用cuDNN加速，但是在使用cuDNN的时候，torch.backends.cudnn.benchmark的默认值为False。如果配合上设置Torch的随机种子为固定值的话，应该可以保证每次运行网络的时候相同输入的输出是固定的。如果在可以使用cuDNN的基础上，再设置torch.backends.cudnn.benchmark = True，那么cuDNN使用的非确定性算法就会自动寻找最适合当前配置的高效算法，来达到优化运行效率的目的。
torch.backends.cudnn.enabled 与 benchmark 与 deterministic
Z2572862506的博客
04-05 410
torch.backends.cudnn.enabled 与 benchmark 与 deterministic
浅谈pytorch torch.backends.cudnn设置作用
12-20
在这种情况下，可以考虑只启用CuDNN而不开启基准测试，即`torch.backends.cudnn.enabled = True`和`torch.backends.cudnn.benchmark = False`，以避免频繁的算法搜索。 总之，理解和适当地调整`torch.backends....
torch.backends.cudnn.benchmark
weixin_36670529的博客
04-18 9049
大家在训练深度学习模型的时候，经常会使用 GPU 来加速网络的训练。但是说起 torch.backends.cudnn.benchmark 这个 GPU 相关的 flag，可能有人会感到比较陌生。在一般场景下，只要简单地在 PyTorch 程序开头将其值设置为 True，就可以大大提升卷积神经网络的运行速度。既然如此神奇，为什么 PyTorch 不将其默认设置为 True？它的适用场景是什么？为什么使用它可以提升效率？答案就在本文之中。 注：因为相关的参考资料比较少，文章的内容是根据我自己的理解和测试的结
training, momentum, eps, torch.backends.cudnn.enabled
chengxvbin的博客
05-05 1182
出现cuda_out of memory，batch size 已设为1. 搜索可能是cuda10.0对8.0兼容性不好 根据网上修改的步骤 1. netG = nn.DataParallel(netG) netG = netG.cuda() 在cuda（）前添加torch.nn.DataParallel() 2. BN层问题，在报错代码添加 with torch.no_grad(): ...
【pytorch系列】 torch.backends.cudnn系列用法
热门推荐
sazass的博客
05-10 1万+
参考博客： https://blog.csdn.net/weixin_43402775/article/details/114319493 https://blog.csdn.net/Ibelievesunshine/article/details/99471258 代码形式如下： torch.backends.cudnn.benchmark = True 作用： 设置 torch.backends.cudnn.benchmark=True 将会让程序在开始时花费一点额外时间，为整个网络的每个卷积层搜索最
pytorch torch.backends.cudnn设置作用
WxyangID的博客
11-09 6075
主要是为了优化运行效率的 cuDNN使用非确定性算法，并且可以使用torch.backends.cudnn.enabled = False来进行禁用 如果设置为torch.backends.cudnn.enabled =True，说明设置为使用使用非确定性算法 然后再设置：torch.backends.cudnn.benchmark = true 那么cuDNN使用的非确定性算法就会自动寻...
torch.backends.cudnn系列用法
weixin_38530843的博客
11-30 895
【pytorch系列】 torch.backends.cudnn系列用法_sazass的博客-CSDN博客
torch一次性设置随机种子复现及torch.backends.cudnn设置
qq_44108731的博客
12-09 1698
def setup_seed(seed): torch.manual_seed(seed) torch.cuda.manual_seed_all(seed) np.random.seed(seed) random.seed(seed) torch.backends.cudnn.deterministic = True # 设置随机数种子 setup_seed(20) 保证模型训练结果始终保持一致 PyTorch + NumPy这么做会降低模型准确率，这是b
torch.backends.cudnn.benchmark 作用
最新发布
tsq292978891的博客
03-13 708
如果输出结果为True，则表示cuDNN已成功设置为PyTorch的后端。这意味着PyTorch将利用cuDNN加速深度神经网络的计算。
什么情况下应该设置 cudnn.benchmark = True？
Snoopy_Dream
12-27 4958
文章目录 [隐藏] 1 问题 2 解决办法 问题 在很多情况下我们都能看到代码里有这样一行： 1 torch.backends.cudnn.benchmark = true 而且大家都说这样可以增加程序的运行效率。那到底有没有这样的效果，或者什么情况下应该这样做呢？ 解决办法 总的来说，大部分情况下，设置这个 flag 可以让内置的 cuDNN...
torch.backends.cudnn.benchmark的用法
木盏
12-01 9475
首先，要明白backends是什么，Pytorch的backends是其调用的底层库。torch的backends都有： cuda cudnn mkl mkldnn openmp 代码torch.backends.cudnn.benchmark主要针对Pytorch的cudnn底层库进行设置，输入为布尔值True或者False： 设置为True，会使得cuDNN来衡量自己库里面的多个卷积算法的速度，然后选择其中最快的那个卷积算法。 我们看官方文档描述： 所以，当这个参数设置为True时，启动算法的前
torch.manual_seed(4321) # reproducible torch.cuda.manual_seed_all(4321) torch.backends.cudnn.benchmark = False torch.backends.cudnn.deterministic = True # Can change it to False --> default: False torch.backends.cudnn.enabled = True
06-08
这是一些用于设置PyTorch运行时的随机数种子和CUDA加速库的设置。torch.manual_seed(4321)设置CPU随机数种子，torch.cuda.manual_seed_all(4321)设置GPU随机数种子，保证每次运行程序生成的随机数一致，方便调试和结果复现。torch.backends.cudnn.benchmark = False是为了禁用cudnn的自动调参功能，以保证结果的稳定性和可重复性。torch.backends.cudnn.deterministic = True是为了让cudnn使用确定性算法，从而确保每次运行结果相同。torch.backends.cudnn.enabled = True是为了启用CUDA加速库的使用。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值