使用Pytorch求导

目录

求导

detach（）函数

---

创建数据集：

# 利用Pytorch求导，得到y关于x各个分量的梯度
x = torch.arange(4.0)# 创建数据集
x.requires_grad_(True)# 表示需要一个地方来存梯度 等价于 x = torch.arange(4.0, requires_grad=True)
print(x.grad)# 梯度默认值为None

求导

y = 2*torch.dot(x, x)
print(y)
# 对y求导，计算y关于x各个分量上的梯度
y.backward()# 反向传播函数
print(x.grad)
print(x.grad == 4*x)

 默认情况下，Pytorch会累加梯度，使用 x.grad.zero_() 可清除之前计算的梯度值

detach（）函数

用于表示某一个向量不需要再计算梯度值（相当于看成常数） 

# 默认情况下，Pytorch会累加梯度，因此在需要清除之前的值
x.grad.zero_()# 清空之前的梯度值
print(x.grad)
y = x*x
u = y.detach()# 返回不需要计算梯度的y
z = u*x
z.sum().backward()# 先求和，化为标量对向量求导的形式
print(x.grad)
print(x.grad == u)