一个简单模型学习了解torch如何训练一个模型,理解如何修改一个模型的权值。

 下面的代码实现

  W* (1,1)  --->100,学习调整W权值最终让(1,1)*W 输出100

loss对w求梯度grad,记住梯度就是导数就是w与loss关系,grad>0 ,w与loss是递增关系,grad<0,递减。

所以调整w的值就能减小loss,如此调整w=w - grad*0.01就能减小loss


import torch

#用(1,1)*W =100,学习调整W权值


w = torch.tensor([0.1,0.1],requires_grad=True)#这是我们的权值矩阵初始值可以随机


x=torch.tensor([1.0,1.0]) #输入值

y=torch.tensor([100.0])   #目标值


for i in range(20):
    
    pre=torch.matmul(x,w)   # pre=W*X

    loss=(y-pre)**2         #计算目标值与预测值差距

    loss.backward()  #反向传播维度必须是0,反向传播求w梯度

    
    ##  下面手动调整权值:

    #------修改w的值用w.data---------------
    w.data=w.data-w.grad*0.1 #调整权不能w=,将会失去梯度
    #--------------------------------------
    
    print("-w.grad----:",w.grad)
    w.grad=torch.tensor([0.0,0.0])     #loss.backward()梯度会叠加,所以这里清0
    
    print("{}:目标值:{},预测值:{},误差{}:".format(i,y.item(),pre.item(),loss.item()))
    print()

 

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
要实现在新模型下使用两种不同的损失函数进行权值优化,可以按照以下步骤编写train函数的代码: 1. 定义模型结构:将HRNet和胶囊网络的层组合成一个新的模型。可以使用nn.ModuleList或者nn.Sequential来组合不同的网络层。 2. 定义优化器:创建两个优化器,一个用于HRNet结构层,另一个用于胶囊网络相关层。为HRNet优化器选择SGD优化器,并为胶囊网络相关层选择Adam优化器。 3. 定义损失函数:创建两个损失函数,一个用于HRNet结构层,另一个用于胶囊网络相关层。为HRNet结构层选择CrossEntropyLoss作为损失函数,并为胶囊网络相关层选择MarginLoss。 4. 进行训练循环:在每个训练迭代中,先使用HRNet的优化器和损失函数进行前向传播、计损失和反向传播;然后使用胶囊网络的优化器和损失函数进行前向传播、计损失和反向传播。 以下是一个示例代码,用于说明上述步骤: ```python import torch import torch.nn as nn import torch.optim as optim # 定义新模型结构 class NewModel(nn.Module): def __init__(self, hrnet, capsule_net): super(NewModel, self).__init__() self.hrnet = hrnet self.capsule_net = capsule_net def forward(self, x): hrnet_out = self.hrnet(x) capsule_net_out = self.capsule_net(hrnet_out) return capsule_net_out # 创建HRNet和胶囊网络实例 hrnet = HRNet() capsule_net = CapsuleNet() # 创建新模型实例 new_model = NewModel(hrnet, capsule_net) # 定义优化器 hrnet_optimizer = optim.SGD(hrnet.parameters(), lr=0.01) capsule_net_optimizer = optim.Adam(capsule_net.parameters(), lr=0.001) # 定义损失函数 hrnet_loss_fn = nn.CrossEntropyLoss() capsule_net_loss_fn = MarginLoss() # 训练循环 for epoch in range(num_epochs): for data, labels in dataloader: # 前向传播 HRNet hrnet_out = new_model.hrnet(data) hrnet_loss = hrnet_loss_fn(hrnet_out, labels) # 反向传播和优化 HRNet hrnet_optimizer.zero_grad() hrnet_loss.backward() hrnet_optimizer.step() # 前向传播 胶囊网络 capsule_net_out = new_model.capsule_net(hrnet_out) capsule_net_loss = capsule_net_loss_fn(capsule_net_out, labels) # 反向传播和优化 胶囊网络 capsule_net_optimizer.zero_grad() capsule_net_loss.backward() capsule_net_optimizer.step() ``` 请注意,此代码仅为示例代码,实际情况可能需要根据你的具体模型和数据进行适当的修改。另外,HRNet和胶囊网络的具体实现和参数设置需要根据你的需求进行相应的更改。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值