pytorch中Variable和Tensor的区别

相同点：Variable就是 变量 的意思，Tensor 是张量的意思（也就是多维矩阵）。两者都是用于存放数据的。

不同点：

1 Variable的定义需要包装一个Tensor，代码如下：

import torch
from torch.autograd import Variable # torch 中 Variable 模块
tensor = torch.FloatTensor([[1,2],[3,4]])
# 把鸡蛋放到篮子里, requires_grad是参不参与误差反向传播, 要不要计算梯度
variable = Variable(tensor, requires_grad=True)
  
print(tensor)
"""
 1 2
 3 4
[torch.FloatTensor of size 2x2]
"""
  
print(variable)
"""
Variable containing:
 1 2
 3 4
[torch.FloatTensor of size 2x2]
"""

2.tensor不能反向传播，variable可以反向传播，样例如下：

v_out.backward() # 模拟 v_out 的误差反向传递
 
print(variable.grad) # 初始 Variable 的梯度
'''
 0.5000 1.0000
 1.5000 2.0000
'''

Variable如何像Tensor一样打印内部的数据？

最好的方法就是将Variable转换成Tensor, 代码如下:

print(variable)  # Variable 形式
"""
Variable containing:
 1 2
 3 4
[torch.FloatTensor of size 2x2]
"""
  
print(variable.data) # 将variable形式转为tensor 形式
"""
 1 2
 3 4
[torch.FloatTensor of size 2x2]
"""
  
print(variable.data.numpy()) # numpy 形式
"""
[[ 1. 2.]
 [ 3. 4.]]
"""

Variable中常用方法总结：

autograd根据用户对Variable的操作来构建其计算图。

1、requires_grad

variable默认是不需要被求导的，即requires_grad属性默认为False，如果某一个节点的requires_grad为True，那么所有依赖它的节点requires_grad都为True。

2、volatile

variable的volatile属性默认为False，如果某一个variable的volatile属性被设为True，那么所有依赖它的节点volatile属性都为True。volatile属性为True的节点不会求导，volatile的优先级比requires_grad高。

3、retain_graph

多次反向传播（多层监督）时，梯度是累加的。一般来说，单次反向传播后，计算图会free掉，也就是反向传播的中间缓存会被清空【这就是动态度的特点】。为进行多次反向传播需指定retain_graph=True来保存这些缓存。

4、backward()

反向传播，求解Variable的梯度。放在中间缓存中。