Pytorch中的autograd

系列文章目录

认识Pytorch

---

前言

---

一、torch.Tensor类的相关概念

• torch.Tensor是整个package中的核心类，如果将属性.requires_grad设置为True，它将追踪这个类定义的所有操作。当代码进行反向传播的时候，之间调用.brackward()就可以自动计算所有的梯度。在这个Tensor上的所有梯度将被累加进属性,grad中。
• 执行.detach()命令，可以将改Trnsor从计算图中撤下，在未来的回溯计算中不会计算该Tensor。
• 采用代码块的方式也可以终止对计算图的回溯
  • with torch.no_grad():

二、关于Tensor的若干操作

• torch.ones(n, n, requires_grad=True)
• x.grad_fn
• a.requires_grad_(True)

三、关于Gradients的属性

• x.grad
• 可以通过.detach()获得一个新的Tensor，拥有相同的内容但不需要自动求导

总结

---