pytorch 自定义参数不更新

最新推荐文章于 2023-06-19 16:01:44 发布

AI算法网奇

最新推荐文章于 2023-06-19 16:01:44 发布

阅读量7.1k

点赞数 1

分类专栏： pytorch知识宝典

本文链接：https://blog.csdn.net/jacke121/article/details/103672674

版权

pytorch知识宝典专栏收录该内容

499 篇文章 226 订阅 ¥29.90 ¥99.00

订阅专栏

超级会员免费看

本文探讨了在PyTorch中如何在nn.Module中定义参数，并指出即使中间变量可能无梯度，但最终变量仍能在反向传播过程中进行更新。通过示例展示了nn.Parameter的使用和其在梯度计算中的行为。

摘要由CSDN通过智能技术生成

nn.Module中定义参数：不需要加cuda，可以求导，反向传播

class BiFPN(nn.Module):
def __init__(self, fpn_sizes):

self.w1 = nn.Parameter(torch.rand(1))

print("no---------------------------------------------------",self.w1.data, self.w1.grad)

下面这个例子说明中间变量可能没有梯度，但是最终变量有梯度：

cy1 cd都有梯度

import torch

xP=torch.Tensor([[ 3233.8557,  3239.0657,  3243.4355,  3234.4507,  3241.7087,
          3243.7292,  3234.6826,  3237.6609,  3249.7937,  3244.8623,
          3239.5349,  3241.4626,  3251.3457,  3247.4263,  3236.4924,
          3251.5735,  3246.4731,  3242.4692,  3239.4958,  3247.7283,
          3251.7134,  3249.0237,  3247.563

了解本专栏