pytorch学习-2：变量（Variable）和激励函数

1. 变量 (Variable)

1.1 什么是 Variable

在 Torch 中的 Variable 就是一个存放会变化的值的地理位置. 里面的值会不停的变化. 就像一个裝鸡蛋的篮子, 鸡蛋数会不停变动. 那谁是里面的鸡蛋呢, 自然就是 Torch 的 Tensor 咯. 如果用一个 Variable 进行计算, 那返回的也是一个同类型的 Variable.

1.1.1 定义变量

import torch
from torch.autograd import Variable  # torch 中 Variable 模块

# 先生鸡蛋
tensor = torch.FloatTensor([[1, 2], [3, 4]])
# 把鸡蛋放到篮子里, requires_grad是参不参与误差反向传播, 要不要计算梯度
variable = Variable(tensor, requires_grad=True)

print('\ntensor\n',tensor)
"""
tensor
 tensor([[1., 2.],
        [3., 4.]])
[torch.FloatTensor of size 2x2]
"""

print('\nvariable\n', variable)
"""
variable
 tensor([[1., 2.],
        [3., 4.]], requires_grad=True)
[torch.FloatTensor of size 2x2]
"""

1.1.2 Variable计算

计算梯度

t_out = torch.mean(tensor.pow(2))       # x^2
v_out = torch.mean(variable.pow(2))     # x^2
print('\nt_out', t_out)
print('\nv_out', v_out)
"""
t_out tensor(7.5000)

v_out tensor(7.5000, grad_fn=<MeanBackward0>)
"""

1.1.3 Variable的特点

Variable 计算时, 它在背景幕布后面一步步默默地搭建着一个庞大的系统, 叫做$计算图$, computational graph. 这个图是用来干嘛的? 原来是将所有的计算步骤 (节点) 都连接起来, 最后进行$误差反向传递$的时候, 一次性将所有 variable 里面的修改幅度 (梯度) 都计算出来, 而 tensor 就没有这个能力啦.

v_out.backward()    # 模拟 v_out 的误差反向传递

# 下面两步看不懂没关系, 只要知道 Variable 是计算图的一部分, 可以用来传递误差就好.
# v_out = 1/4 * sum(variable*variable) 这是计算图中的 v_out 计算步骤
# 针对于 v_out 的梯度就是, d(v_out)/d(variable) = 1/4*2*variable = variable/2

print('\nvar_grad\n', variable.grad)    # 初始 Variable 的梯度
'''
var_grad
 tensor([[0.5000, 1.0000],
        [1.5000, 2.0000]])
'''

## 获取 Variable 里面的数据
print('\nvariable\n', variable)     #  Variable 形式
"""
variable
 tensor([[1., 2.],
        [3., 4.]], requires_grad=True)
"""

print('\nvar_data\n', variable.data)    # tensor 形式
"""
var_data
 tensor([[1., 2.],
        [3., 4.]])
"""

print('\nvariable.data,numpy\n', variable.data.numpy())    # numpy 形式
"""
variable.data,numpy
 [[1. 2.]
 [3. 4.]]
"""

2. 激励函数

2.1 应用

• 在卷积神经网络 Convolutional neural networks 的卷积层中, 推荐的激励函数是 relu.
• 在循环神经网络中 recurrent neural networks, 推荐的是 tanh 或者是 relu

2.2 代码

• 注意画图需要由tensor转换成numpy(data.numpy()).

import torch
import torch.nn.functional as F     # 激励函数都在这
from torch.autograd import Variable

# 做一些假数据来观看图像
x = torch.linspace(-5, 5, 200)  # x data (tensor), shape=(100, 1)
x = Variable(x)

x_np = x.data.numpy()   # 换成 numpy array, 出图时用

# 几种常用的 激励函数
y_relu = F.relu(x).data.numpy()
y_sigmoid = F.sigmoid(x).data.numpy()
y_tanh = F.tanh(x).data.numpy()
y_softplus = F.softplus(x).data.numpy()
# y_softmax = F.softmax(x)  softmax 比较特殊, 不能直接显示, 不过他是关于概率的, 用于分类

• 画图

import matplotlib.pyplot as plt  # python 的可视化模块, 我有教程 (https://mofanpy.com/tutorials/data-manipulation/plt/)

plt.figure(1, figsize=(8, 6))
plt.subplot(221)
plt.plot(x_np, y_relu, c='red', label='relu')
plt.ylim((-1, 5))
plt.legend(loc='best')

plt.subplot(222)
plt.plot(x_np, y_sigmoid, c='red', label='sigmoid')
plt.ylim((-0.2, 1.2))
plt.legend(loc='best')

plt.subplot(223)
plt.plot(x_np, y_tanh, c='red', label='tanh')
plt.ylim((-1.2, 1.2))
plt.legend(loc='best')

plt.subplot(224)
plt.plot(x_np, y_softplus, c='red', label='softplus')
plt.ylim((-0.2, 6))
plt.legend(loc='best')

plt.show()

参考

1. 激励函数 (Activation)
2. 变量 (Variable)