import torch
x=torch.ones((2,2),requires_grad=True) #requires_grad表示可以计算这个梯度
y=x+2
z=y*y*3
out= z.mean() #计算矩阵平均值 结果是个数 相加除以4
print(out) #tensor(27., grad_fn=<MeanBackward0>)
#out的值和x相关,x相当于out的一个变量
#修改x的结果,out也会跟着改变
#out.backward()对out求导(对x求导)计算梯度的值
#流程:out先对X求导
#在神经网络中,误差反向传播算法,不断地向前一层一层求导,其实就是根据最后网络输出的结果和真实的标新值进行对比 ,
# 然后再每一层的网络在权值下进行求导,再去修改每一层网络的全职,使得模型的效果越来越好
#自动求导机制就在上面那个过程骑着非常重要的作用了
out.backward()
print(x.grad)
# tensor([[4.5000, 4.5000],
# [4.5000, 4.5000]])
#在backward()前,执行y.retain_grad(),就可以求y.grad了
Pytorch入门学习:自动求导
最新推荐文章于 2024-07-09 11:19:29 发布