最近在学习Pytorch的官方入门教程,本篇只写了关于Gradients这一小知识点的理解:
附:Pytorch的官方入门60min教程链接<https://pytorch.org/tutorials/beginner/deep_learning_60min_blitz.html>,如下图所示,分为几个模块进行学习:
1.Gradients 是什么
Gradients 就是梯度,从方向导数理解一下什么是梯度。
- 方向导数是各个方向上的导数
- 偏导数连续才有梯度存在
- 梯度的方向是方向导数中取到最大值的方向,梯度的值是方向导数的最大值
2.Gradients的例子
(也就是来自官方入门教程的例子)
<1>首先创建一个张量,设置 requires_grad=True 来跟踪与它相关的计算,即在计算中保留对应的梯度信息,代码如下:
import torch
x = torch.ones(2,2,requires_grad = True)
print(x)
注意:requires_grad有两个值:True和False,True代表此变量处需要计算梯度,Fa