pytorch中Variable的自动求导

日期：2020-2-11
作者：老李
pytorch中variable这个变量具有自动求导功能，只需要在参数列表中加入

requires_grad = True

举个例子

我们如下定义：

我们对矩阵进行简单的求导$$var=\left[\begin{array}{cc}1& 2\\ 3& 4\end{array}\right]$$
我们对该矩阵平方的均值进行求导，从而有如下的表达

v_out = 1/4*sum(var*var)#4个元素
#从而我们有
d(v_out)/d(var) = 1/4*2*variable = variable/2

完整代码如下

# variable
from torch.autograd import Variable
tensor = torch.FloatTensor([[1,2],[3,4]])
variable = Variable(tensor, requires_grad = True)
t_out = torch.mean(tensor*tensor)  # x^2
v_out = torch.mean(variable*variable)
print(t_out)
print(v_out)
# v_out = 1/4*sum(var*var)
# d(v_out)/d(var) = 1/4*2*variable = variable/2
v_out.backward()
print(variable.grad)
print(variable.data)
print(variable.data.numpy())

最后也可以以np.array的形式输出，用到了variable中data的属性

结果如下