多层感知机
多层感知机的基本知识
深度学习主要关注多层模型。本节将以多层感知机(multilayer perceptron,MLP)为例,介绍多层神经网络的概念。
隐藏层
下图展示了一个多层感知机的神经网络图,它含有一个隐藏层,该层中有5个隐藏单元。
![](https://i-blog.csdnimg.cn/blog_migrate/357955d83f444018b25f8d2195eff51e.png)
先来看一种含单隐藏层的多层感知机的设计。其输出
O
∈
R
n
×
q
O\in R^{n\times q}
O∈Rn×q的计算为
H
=
X
W
h
+
b
h
O
=
H
W
o
+
b
o
\begin{aligned} H&=XW_h+b_h\\ O&=HW_o+b_o \end{aligned}
HO=XWh+bh=HWo+bo也就是将隐藏层的输出直接作为输出层的输入。如果将以上两个式子联立起来,可以得到
O
=
(
X
W
h
+
b
h
)
W
o
+
b
o
=
X
W
h
W
o
+
b
h
W
o
+
b
o
O=(XW_h+b_h)W_o+b_o=XW_hW_o+b_hW_o+b_o
O=(XWh+bh)Wo+bo=XWhWo+bhWo+bo从联立后的式子可以看出,虽然神经网络引入了隐藏层,却依然等价于一个单层神经网络:其中输出层权重参数为
W
h
W
o
W_hW_o
WhWo,偏差参数为
b
h
W
o
+
b
o
b_hW_o+b_o
bhWo+bo。不难发现,即便再添加更多的隐藏层,以上设计依然只能与仅含输出层的单层神经网络等价。
激活函数
上述问题的根源在于全连接层只是对数据做仿射变换(affine transformation),而多个仿射变换的叠加仍然是一个仿射变换。解决问题的一个方法是引入非线性变换,例如对隐藏变量使用按元素运算的非线性函数进行变换,然后再作为下一个全连接层的输入。这个非线性函数被称为激活函数(activation function)。
下面介绍几个常用的激活函数:
import torch
import numpy as np
import matplotlib.pyplot as plt
def xyplot(x_vals, y_vals, name):
plt.plot(x_vals.detach().numpy(), y_vals.detach().numpy())
plt.xlabel('x')
plt.ylabel(name + '(x)')
plt.show()
- ReLU函数
ReLU(rectified linear unit)函数提供了一个很简单的非线性变换。给定元素 x x x,该函数定义为
R e L U ( x ) = m a x ( x , 0 ) ReLU(x)=max(x,0) ReLU(x)=max(x,0)ReLU函数只保留正数元素,并将负数元素清零。
x = torch.arange(-8.0, 8.0, 0.1, requires_grad=True)
y = x.relu()
xyplot(x, y, 'relu')
![](https://i-blog.csdnimg.cn/blog_migrate/dcb441b51a33eb8e24d8ab50d0919984.png)
y.sum().backward()
xyplot(x, x.grad, 'grad of relu')
![](https://i-blog.csdnimg.cn/blog_migrate/0ffeb44f8bb708e94774e25eef2ac156.png)
- Sigmoid函数
sigmoid函数可以将元素的值变换到0和1之间:
s i g m o i d ( x ) = 1 1 + e x p ( − x ) sigmoid(x)=\dfrac{1}{1+exp(-x)} sigmoid(x)=1+exp(−x)1依据链式法则,sigmoid函数的导数
s i g m o i d ′ ( x ) = s i g m o i d ( x ) ( 1 − s i g m o i d ( x ) ) sigmoid^{\prime}(x)=sigmoid(x)(1-sigmoid(x)) sigmoid′(x)=sigmoid(x)(1−sigmoid(x))下面绘制了sigmoid函数的导数。当输入为0时,sigmoid函数的导数达到最大值0.25;当输入越偏离0时,sigmoid函数的导数越接近0。
y = x.sigmoid()
xyplot(x, y, 'sigmoid')
![](https://i-blog.csdnimg.cn/blog_migrate/b683ecc2d381ddbefb2700dbecdc9bd6.png)
x.grad.zero_()
y.sum().backward()
xyplot(x, x.grad, 'grad of sigmoid')
![](https://i-blog.csdnimg.cn/blog_migrate/3318f2a7857962b437bd428386676e3d.png)
- tanh函数
tanh(双曲正切)函数可以将元素的值变换到-1和1之间:
t a n h ( x ) = 1 − e x p ( − 2 x ) 1 + e x p ( − 2 x ) tanh(x)=\dfrac{1-exp(-2x)}{1+exp(-2x)} tanh(x)=1+exp(−2x)1−exp(−2x)当输入接近0时,tanh函数接近线性变换。虽然该函数的形状和sigmoid函数的形状很像,但tanh函数在坐标系的原点上对称。
依据链式法则,tanh函数的导数
t a n h ′ ( x ) = 1 − t a n h 2 ( x ) tanh^{\prime}(x)=1-tanh^{2}(x) tanh′(x)=1−tanh2(x)下面绘制了tanh函数的导数。当输入为0时,tanh函数的导数达到最大值1;当输入越偏离0时,tanh函数的导数越接近0。
![](https://i-blog.csdnimg.cn/blog_migrate/2ff2302fe9b2f8adafb75c229fee8509.png)
x.grad.zero_()
y.sum().backward()
xyplot(x, x.grad, 'grad of tanh')
![](https://i-blog.csdnimg.cn/blog_migrate/e69eb64f626505891139ca7e265efbbe.png)
多层感知机
多层感知机就是含有至少一个隐藏层的由全连接层组成的神经网络,且每个隐藏层的输出通过激活函数进行变换。多层感知机的层数和各隐藏层中隐藏单元个数都是超参数。以单隐藏层为例并沿用本节之前定义的符号,多层感知机按以下方式计算输出:
H
=
ϕ
(
X
W
h
+
b
h
)
O
=
H
W
o
+
b
o
\begin{aligned} H&=\phi (XW_h+b_h)\\ O&=HW_o+b_o \end{aligned}
HO=ϕ(XWh+bh)=HWo+bo其中
ϕ
\phi
ϕ表示激活函数
#从零开始定义网络
def net(X):
X = X.view((-1, num_inputs))
#隐藏层输出
H = relu(torch.matmul(X, W1) + b1)
return torch.matmul(H, W2) + b2
#利用PyTorch实现
net = nn.Sequential(
# FlattenLayer是在数据输入前进行维度变换
d2l.FlattenLayer(),
nn.Linear(num_inputs, num_hiddens),
nn.ReLU(),
nn.Linear(num_hiddens, num_outputs),
)