add函数 pytorch_Pytorch修炼手册（二）——Autograd自动微分

Pytorch自动微分和模型构建

上次介绍了pytorch的基本操作，以及如何如何使用GPU来加速，今天继续来聊一聊pytorch的另一个神奇之处——自动微分。

一、Autograd自动微分

众所周知，不管是机器学习还是深度学习，其核心就是损失函数的优化，误差反向传播求梯度是必不可少的步骤，而pytorch的autograd模块则实现了此功能。在Tensor上的所有操作，autograd都能为它们自动提供微分，从而避免了手动计算导数的复杂过程。

使用它也非常简单，只需要为Tensor设置tensor.requries_grad=True，下面来看看具体从操作吧：

1、在创建tensor的时候指定requires_grad，代表着需要求导数

2、反向传播：

3、梯度计算：