pytorch,一个网络的输出,为另一个网络的输入,怎么让梯度关联进行联合训练

方法一:

from itertools import chain
optim.Adam(params=chain(backbone_net.parameters(),
                                                linear_rot_net.parameters(),
                                                linear_classify_net.parameters()),

作者:Sail
链接:https://www.zhihu.com/question/322192259/answer/955313940
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

方法二:

作者:xaipxan
链接:https://www.zhihu.com/question/322192259/answer/749589285
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

x = torch.rand(2, 3)
net1 = nn.Linear(3, 3)
net2 = nn.Linear(3, 3)
a = net1(x)
b = net2(a)

tgt = torch.rand(2, 3)
loss_fun = torch.nn.MSELoss()
opt1 = torch.optim.Adam(net1.parameters(), 0.002)
opt2 = torch.optim.Adam(net2.parameters(), 0.002)

for i in range(100):
    tmp = net1(x)
    output = net2(tmp)
    loss = loss_fun(output, tgt)

    net1.zero_grad()
    net2.zero_grad()

    loss.backward()
    opt1.step()
    opt2.step()

    print('EPOCH:{},loss={}'.format(i, loss))

aa = net1(x)
bb = net2(aa)

print(a)
print(aa)
print(b)
print(bb)

这两个方法我都做了实验,是可以使用的

参考:https://www.zhihu.com/question/322192259/answer/669073895

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值