下面的代码实现
W* (1,1) --->100,学习调整W权值最终让(1,1)*W 输出100
loss对w求梯度grad,记住梯度就是导数就是w与loss关系,grad>0 ,w与loss是递增关系,grad<0,递减。
所以调整w的值就能减小loss,如此调整w=w - grad*0.01就能减小loss
import torch
#用(1,1)*W =100,学习调整W权值
w = torch.tensor([0.1,0.1],requires_grad=True)#这是我们的权值矩阵初始值可以随机
x=torch.tensor([1.0,1.0]) #输入值
y=torch.tensor([100.0]) #目标值
for i in range(20):
pre=torch.matmul(x,w) # pre=W*X
loss=(y-pre)**2 #计算目标值与预测值差距
loss.backward() #反向传播维度必须是0,反向传播求w梯度
## 下面手动调整权值:
#------修改w的值用w.data---------------
w.data=w.data-w.grad*0.1 #调整权不能w=,将会失去梯度
#--------------------------------------
print("-w.grad----:",w.grad)
w.grad=torch.tensor([0.0,0.0]) #loss.backward()梯度会叠加,所以这里清0
print("{}:目标值:{},预测值:{},误差{}:".format(i,y.item(),pre.item(),loss.item()))
print()