pytorch-pytorch中的自动微分

最新推荐文章于 2023-03-09 17:42:25 发布

柏柏柏

最新推荐文章于 2023-03-09 17:42:25 发布

阅读量223

点赞数

分类专栏：深度学习文章标签： pytorch 深度学习机器学习

本文链接：https://blog.csdn.net/weixin_45955630/article/details/111673527

版权

深度学习专栏收录该内容

13 篇文章 0 订阅

订阅专栏

pytorch中的自动微分

在 $t o r c h$ 中的 $t o r c h . a u t o g r a d e$ 模块，提供了实现任意标量值函数自动求导的类和函数针对一个张量值需要设置参数 $requires\_grad = True$ ,通过相关计算即可输出其在传播过程中的梯度（导数）信息。

下面使用一个示例来解释 $p y t o r c h$ 中自动微分的计算，在 $p y t o r c h$ 中生成一个矩阵张量x，并且 $y=sum(x^2+2x+1)$ ,计算出y在x上的导数：

import torch
# 判断函数是否可以求导
x = torch.tensor([[1.0, 2.0], [3.0, 4.0]], requires_grad=True)
y = torch.sum(x ** 2 + 2 * x + 1)
# True是可以求导，false是不可以求导
print("x.requires_grad:", x.requires_grad)
print("y.requires_grad:", y.requires_grad)
print("x", x)
print("y", y)

# 计算y在x上的梯度
# y.backward()函数可以自动计算出
# y在x的每个元素上的导数
# 然后通过x的grad属性，即可获取此时x的梯度
y.backward()
print(x.grad)