反向传播梯度的计算

1. 适用pytorch中Variable()函数中的backward()自动计算梯度
2. 手动实现梯度计算（缺点：计算网络复杂时容易出错，难以检查）

# -*- coding: utf-8 -*-
#@Time    :2019/6/29 18:36
#@Author  :XiaoMa
import torch as t
from torch.autograd import Variable as V
def f(x):   #计算输出值
    y=x**2*t.exp(x)
    return y

def gradf(x):   #手动计算梯度
    dx=2*x*t.exp(x)+x**2*t.exp(x)

    return dx

x=V(t.randn(3,4),requires_grad=True)
y=f(x)
print('y==',y)

y.backward(t.ones(y.size()))    #backward()反向传播时，自动计算梯度
print('x.grad=',x.grad)
gr=gradf(x)
print('手动计算梯度:',gr)

输出结果：

可以看出反向传播时自动计算的梯度值与手动计算结果一样。