《动手学习深度学习》预备知识——自动求导

自动微分

正如我们在 :numref:sec_calculus中所说的那样，求导是几乎所有深度学习优化算法的关键步骤。
虽然求导的计算很简单，只需要一些基本的微积分。
但对于复杂的模型，手工进行更新是一件很痛苦的事情（而且经常容易出错）。

深度学习框架通过自动计算导数，即自动微分（automatic differentiation）来加快求导。
实际中，根据我们设计的模型，系统会构建一个计算图（computational graph），
来跟踪计算是哪些数据通过哪些操作组合起来产生输出。
自动微分使系统能够随后反向传播梯度。
这里，反向传播（backpropagate）意味着跟踪整个计算图，填充关于每个参数的偏导数。

一个简单的例子

(假设我们想对函数$y=2{\mathbf{x}}^{\top }\mathbf{x}$ (标量) 关于列向量$\mathbf{x}$求导)。
首先，我们创建变量x并为其分配一个初始值。

import torch

x = torch.arange(4.0)
x

tensor([0., 1., 2., 3.])

[在我们计算$y$关于$\mathbf{x}$的梯度之前，我们需要一个地方来存储梯度。]

重要的是，我们不会在每次对一个参数求导时都分配新的内存。
因为我们经常会成千上万次地更新相同的参数，每次都分配新的内存可能很快就会将内存耗尽。
注意，一个标量函数关于向量$\mathbf{x}$的梯度是向量，并且与$\mathbf{x}$具有相同的形状。

# 需要梯度 = 存储梯度
x.requires_grad_(True)  # 等价于 `x = torch.arange(4.0, requires_grad=True)`  
x.grad  # 默认值是None

print(x.grad)

None

(现在让我们计算$y$。)

y = 2 * torch.dot(x, x) # 点积   底层代码会识别需要转置的地方，自动转置
y 

tensor(28., grad_fn=<MulBackward0>)

x是一个长度为4的向量，计算x和x的点积，得到了我们赋值给y的标量输出。
接下来，我们[通过调用反向传播函数来自动计算y关于x每个分量的梯度]，并打印这些梯度。

y.backward() #求导 计算y关于x每个分量的梯度
x.grad  #访问x的梯度 关于x的导数 

tensor([ 0.,  4.,  8., 12.])

函数$y=2{\mathbf{x}}^{\top }\mathbf{x}$关于$\mathbf{x}$的梯度应为$4\mathbf{x}$。
让我们快速验证这个梯度是否计算正确。

x.grad == 4 * x

tensor([True, True, True, True])

[现在让我们计算x的另一个函数。]

x

tensor([0., 1., 2., 3.], requires_grad=True)

# 在默认情况下，PyTorch会累积梯度，我们需要清除之前的值
x.grad.zero_()  # 下划线表示重写内容 

tensor([0., 0., 0., 0.])

x.sum() #backward() 求导只能用于标量，求和之后得到就是标量

tensor(6., grad_fn=<SumBackward0>)

y = x.sum()
y

tensor(6., grad_fn=<SumBackward0>)

y.backward() #反向传播 计算y关于x每个分量的梯度 y= (x_1+x_2+x_3+x_4) 分别求导，就是x对自身的导数即为1
x.grad

tensor([1., 1., 1., 1.])

非标量变量的反向传播

当y不是标量时，向量y关于向量x的导数的最自然解释是一个矩阵。
对于高阶和高维的y和x，求导的结果可以是一个高阶张量。

然而，虽然这些更奇特的对象确实出现在高级机器学习中（包括[深度学习中]），
但当我们调用向量的反向计算时，我们通常会试图计算一批训练样本中每个组成部分的损失函数的导数。
这里(，我们的目的不是计算微分矩阵，而是单独计算批量中每个样本的偏导数之和。)

# 对非标量调用`backward`需要传入一个`gradient`参数，该参数指定微分函数关于`self`的梯度。
# 在我们的例子中，我们只想求偏导数的和，所以传递一个1的梯度是合适的
x.grad.zero_() # 梯度清零

y = x * x   #当y是向量，x也是向量 反向传播理论上导数 都是矩阵
# 等价于y.backward(torch.ones(len(x)))
y.sum().backward() # 反向传播 计算梯度
x.grad # 访问梯度

tensor([0., 2., 4., 6.])

分离计算

有时，我们希望[将某些计算移动到记录的计算图之外]。
例如，假设y是作为x的函数计算的，而z则是作为y和x的函数计算的。
想象一下，我们想计算z关于x的梯度，但由于某种原因，我们希望将y视为一个常数，
并且只考虑到x在y被计算后发挥的作用。

在这里，我们可以分离y来返回一个新变量u，该变量与y具有相同的值，
但丢弃计算图中如何计算y的任何信息。
换句话说，梯度不会向后流经u到x。
因此，下面的反向传播函数计算z=u*x关于x的偏导数，同时将u作为常数处理，
而不是z=x*x*x关于x的偏导数。

x.grad.zero_()
y = x * x
u = y.detach() # 把y当成一个常数u，而不是关于x的函数
z = u * x

z.sum().backward()
x.grad == u # 当u是常数，对x求导，u就是导数赖
x.grad

tensor([0., 1., 4., 9.])

由于记录了y的计算结果，我们可以随后在y上调用反向传播，
得到y=x*x关于的x的导数，即2*x。

x.grad.zero_()
y.sum().backward()
x.grad == 2 * x

tensor([True, True, True, True])

Python控制流的梯度计算

使用自动微分的一个好处是：
[即使构建函数的计算图需要通过Python控制流（例如，条件、循环或任意函数调用），我们仍然可以计算得到的变量的梯度]。
在下面的代码中，while循环的迭代次数和if语句的结果都取决于输入a的值。

def f(a):
    b = a * 2 
    while b.norm() < 1000:
        b = b * 2 # 一直乘到b.nor>=1000
    if b.sum() > 0:
        c = b
    else:
        c = 100 * b
    return c

让我们计算梯度。

a = torch.randn(size=(), # size=() 意思就是标量
                requires_grad=True)
d = f(a)
d.backward()

我们现在可以分析上面定义的f函数。
请注意，它在其输入a中是分段线性的。
换言之，对于任何a，存在某个常量标量k，使得f(a)=k*a，其中k的值取决于输入a。
因此，我们可以用d/a验证梯度是否正确。

a.grad == d / a

tensor(True)

小结

• 深度学习框架可以自动计算导数：我们首先将梯度附加到想要对其计算偏导数的变量上。然后我们记录目标值的计算，执行它的反向传播函数，并访问得到的梯度。

练习

1. 为什么计算二阶导数比一阶导数的开销要更大？
2. 在运行反向传播函数之后，立即再次运行它，看看会发生什么。
3. 在控制流的例子中，我们计算d关于a的导数，如果我们将变量a更改为随机向量或矩阵，会发生什么？
4. 重新设计一个求控制流梯度的例子，运行并分析结果。
5. 使$f(x)=\sin (x)$，绘制$f(x)$和$\frac{df(x)}{dx}$的图像，其中后者不使用$f^{\prime }(x)=\cos (x)$。

Discussions

q5：

from d2l import torch as d2l

x = torch.linspace(-5,5,50) #linspace 返回一维数组 向量
x.requires_grad_(True) #保存梯度
y = torch.sin(x) # 向量
y.backward(gradient=torch.ones(len(x))) #y是向量  len(x)是x的长度
# 如果variables中的任何一个variable是 非标量(non-scalar)的，且requires_grad=True。
# 那么此函数需要指定grad_variables，它的长度应该和variables的长度匹配
d2l.plot(x.detach(),[y.detach(),x.grad],'x','f(x)',legend=['y','df(x)/dx'])