allow_unreachable flag

最新推荐文章于 2022-05-26 14:44:30 发布
最新推荐文章于 2022-05-26 14:44:30 发布
阅读量3.5k 收藏
点赞数
分类专栏： pytorch知识宝典
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jacke121/article/details/118182158
版权
本文介绍了在PyTorch中遇到的'allow_unreachable=True'错误，该错误通常由版本差异（特别是从0.3到0.4）和不支持的inplace操作引起。解决方案包括避免inplace操作，如将`x+=1`替换为`x = x + 1`，或者在使用旧代码时设置`inplace=False`。推荐使用Beyond Compare软件进行代码对比以定位错误。
摘要由CSDN通过智能技术生成

allow_unreachable flag

同学的博客的答案：

https://blog.csdn.net/qxqsunshine/article/details/88118131

１．．．．．．torch/autograd/__init__.py", line 90, in backward allow_unreachable=True)  # allow_unreachable flag

RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation

问题分析：这个是由pytorch(0.3和0.4）的版本信息造成的错误．

因为pytorch0.4版本后的tensor不支持inplace操作了，所以把所有的inplace操作都去掉．例如：

x+= 1 这种改成 x = x+1 原因：x+=1的值会直接在原值上面做更新，是inplace=True的情况，而后一种是先让x

了解本专栏 订阅专栏 解锁全文 超级会员免费看
AI算法网奇
关注
专栏目录
订阅专栏
Pytorch Bug解决：RuntimeError:one of the variables needed for gradient computation has been modified
Just_do_myself的博客
04-24 5351
Pytorch Bug解决：RuntimeError:one of the variables needed for gradient computation has been modified
RuntimeError: one of the variables needed for gradient computation has been modified by an inplace
欢迎来到打不死的小强的专栏
03-30 8948
Traceback (most recent call last): File "train.py", line 182, in <module> train(config) File "train.py", line 120, in train loss.backward() File "/home/zqzhu/anaconda3/lib/python3....
matlab损失函数出现nan,警惕！损失Loss为Nan或者超级大的原因
weixin_39954487的博客
03-18 2559
前言训练或者预测过程中经常会遇到训练损失值或者验证损失值不正常、无穷大、或者直接nan的情况：遇到这样的现象，通常有以下几个原因导致：梯度爆炸造成Loss爆炸原因很简单，学习率较高的情况下，直接影响到每次更新值的程度比较大，走的步伐因此也会大起来。如下图，过大的学习率会导致无法顺利地到达最低点，稍有不慎就会跳出可控制区域，此时我们将要面对的就是损失成倍增大(跨量级)。另外，这种情况很容易在网络层数...
pytorch的两个函数 .detach() .detach_() 的作用和区别
热门推荐
MIss-Y的博客
07-11 17万+
前言：当我们再训练网络的时候可能希望保持一部分的网络参数不变，只对其中一部分的参数进行调整；或者值训练部分分支网络，并不让其梯度对主网络的梯度造成影响，这时候我们就需要使用detach()函数来切断一些分支的反向传播 一、tensor.detach() 返回一个新的tensor，从当前计算图中分离下来的，但是仍指向原变量的存放位置,不同之处只是requires_grad为false，得...
PyTorch的学习笔记02 - backward( )函数
风海流的豪赌
07-16 5万+
0.4.0版教程。 20191126更新：添加了关于CopySlices backwar函数的讨论。 创建一个Tensor时，使用requires_grad参数指定是否记录对其的操作，以便之后利用backward()方法进行梯度求解。 一个Tensor的requires_grad成员保存该Tensor是否记录操作用于计算梯度。 可利用requires_grad_()方法修改Tenso...
allow_unreachable=True, accumulate_grad=True) # allow_unreachable flag KeyboardInterrupt
最新发布
06-07
这段代码看起来像是使用 PyTorch 进行模型训练时的一些参数设置，其中包括了 `allow_unreachable` 和 `accumulate_grad` 两个参数。 `allow_unreachable` 参数默认为 `False`，表示是否允许访问已经被 Python ...
allow_unreachable=True, accumulate_grad=True) # allow_unreachable flag RuntimeError: Trying to backward through the graph a second time (or directly access saved tensors after they have already been freed). Saved intermediate values of the graph are freed when you call .backward() or autograd.grad(). Specify retain_graph=True if you need to backward through the graph a second time or if you need to access saved tensors after calling backward.
04-23
allow_unreachable=True，accumulate_grad=True是深度学习中的两个参数选项。其中，allow_unreachable=True表示允许非法的操作，这主要用于避免特定环境下的错误。而accumulate_grad=True表示要对梯度进行累加操作，...
还是反向传播有问题： allow_unreachable=True, accumulate_grad=True) # allow_unreachable flag RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation: [torch.FloatTensor [16, 16]], which is output 0 of AsStridedBackward0, is at version 16; expected version 15 instead. Hint: the backtrace further above shows the operation that failed to compute its gradient. The variable in question was changed in there or anywhere later. Good luck!
06-03
这个错误通常表示你在计算反向传播时，某个变量被进行了inplace操作，导致梯度计算出现问题。 在PyTorch中，有些操作是inplace的，即会直接修改原有的变量，而不是返回一个新的变量。如果你在这些变量上进行了in...
File "D:\AppGallery\Anaconda\3\lib\site-packages\torch\autograd\__init__.py", line 156, in backward allow_unreachable=True, accumulate_grad=True) # allow_unreachable flag RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation: [torch.FloatTensor [16, 16]], which is output 0 of AsStridedBackward0, is at version 16; expected version 15 instead. Hint: the backtrace further above shows the operation that failed to compute its gradient. The variable in question was changed in there or anywhere later. Good luck!
06-03
这个错误通常表示在计算梯度时，出现了 inplace 操作，导致计算梯度出现了错误。inplace 操作是指在原来的张量上进行修改，而不是创建一个新的张量。由于 PyTorch 的自动求导机制需要保存中间变量，因此 inplace ...
ocr pytorch训练异常
fanhenghui的专栏
11-09 1264
[0/300][12160/51244] Loss: 162.309189 Traceback (most recent call last): File "crnn_main_v2.py", line 186, in <module> main(crnn, train_loader, val_loader, criterion, optimizer) File "c...
RuntimeError: cur_offset == offset ASSERT FAILED
qq_22821801的博客
05-12 494
基于Pytorch（version=1.0）框架，利用torch.nn.LSTM模块构建对于时间序列数据的分类器。 训练过程中，当网络进行反向传播时，程序曝出异常 Traceback (most recent call last): File "train_version1.py", line 236, in <module> loss.backward() Fi...
警惕！损失Loss为Nan或者超级大的原因
lrt366的博客
07-28 5万+
转自：https://oldpan.me/archives/careful-train-loss-nan-inf 前言 训练或者预测过程中经常会遇到训练损失值或者验证损失值不正常、无穷大、或者直接nan的情况： 遇到这样的现象，通常有以下几个原因导致： 梯度爆炸造成Loss爆炸 原因很简单，学习率较高的情况下，直接影响到每次更新值的程度比较大，走的步伐因此也会大起来。如下图，过大的学...
pytorch拓展——numpy
怡宝2号
04-02 716
引言 pytorch所有内置的函数都提供了自动求导功能，所以大部分的时候，我们只需要写出前向传播过程，然后调用tensor.backward()方法，就可以求出所有varible的grad。 例子一：自带函数的自动求导 # coding:utf-8 import torch from torch.autograd import Variable x = Variable(torch.Tensor...
loss.backward() cuDNN error: CUDNN_STATUS_MAPPING_ERROR
梦想仗剑走天涯
05-26 1333
loss.backward() cuDNN error: CUDNN_STATUS_MAPPING_ERROR
MMdetection训练遇到的各种问题总结
liu_dongd的博客
04-20 3021
label = self.cat2label[name] 报错 报错信息如下： KeyError: ‘Traceback (most recent call last):\n File “/home/dreamtech/.conda/envs/AugFPN2/lib/python3.7/site-packages/torch/utils/data/dataloader.py”, line 138, in _worker_loop\n samples = collate_fn([dataset[
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI算法网奇

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值