【深度学习】多层感知机(MLP)_01

隐藏层：

        多层感知机在单层神经网络的基础上引入了一到多个隐藏层（hidden layer）。隐藏层位于输入层和输出层之间。如下图：

                                                   

         图上所示的多层感知机中，输入和输出个数分别为4和3，中间的隐藏层中包含了5个隐藏单元（hidden unit）。由于输入层不涉及计算，图上中的多层感知机的层数为2。由图上可见，隐藏层中的神经元和输入层中各个输入完全连接，输出层中的神经元和隐藏层中的各个神经元也完全连接。因此，多层感知机中的隐藏层和输出层都是全连接层。

假设隐藏层权重和偏差分别为wh、bh，输出层权重和偏差分别为wo、bo，输出o的计算为：

                                                                                  

也就是将隐藏层的输出直接作为输出层的输入。如果将以上两个式子联立起来，可以得到：

                                                            

虽然神经网络引入了隐藏层，却依然等价于一个单层神经网络：其中输出层权重参数为𝑊ℎ𝑊𝑜，偏差参数为𝑏ℎ𝑊𝑜+bo。

激活函数：

     问题：由于全连接层只是对数据做仿射变换，而多个仿射变换的叠加仍然是一个仿射变换。

     解决上述问题的一个方法是：引入非线性变换，例如对隐藏变量使用按元素运算的非线性函数进行变换，然后再作为下一个全连接层的输入。这个非线性函数被称为激活函数。

ReLU函数：

ReLU（rectified linear unit）函数提供了一个很简单的非线性变换。给定元素𝑥，该函数定义为：

                                                                                     

从上式可以看出：ReLU函数只保留正数元素，并将负数元素清零。

ReLU激活函数，如下图所示：

                                                    

显然，当输入为负数时，ReLU函数的导数为0；当输入为正数时，ReLU函数的导数为1。尽管输入为0时ReLU函数不可导，但是我们可以取此处的导数为0。

ReLU函数的导数图，如下图所示：

                                                   

sigmoid函数：

sigmoid函数可以将元素的值变换到0和1之间：

                                                                                       

sigmoid函数的图像如下图。当输入接近0时，sigmoid函数接近线性变换。

                                                     

依据链式法则，sigmoid函数的导数为：

sigmoid函数的导数的图像如下图。当输入为0时，sigmoid函数的导数达到最大值0.25；当输入越偏离0时，sigmoid函数的导数越接近0。

                                                   

tanh函数：

tanh（双曲正切）函数可以将元素的值变换到-1和1之间：

                                                                                       

tanh函数的图像如下图。当输入接近0时，tanh函数接近线性变换。虽然该函数的形状和sigmoid函数的形状很像，但tanh函数在坐标系的原点上对称。

                                                       

依据链式法则，tanh函数的导数为：

tanh函数的导数的图像如下图。当输入为0时，tanh函数的导数达到最大值1；当输入越偏离0时，tanh函数的导数越接近0。

                                                          

关于激活函数的选择：

• ReLu函数是一个通用的激活函数，目前在大多数情况下使用。但是，ReLU函数只能在隐藏层中使用。

• 用于分类器时，sigmoid函数及其组合通常效果更好。由于梯度消失问题，有时要避免使用sigmoid和tanh函数。

• 在神经网络层数较多的时候，最好使用ReLu函数，ReLu函数比较简单计算量少，而sigmoid和tanh函数计算量大很多。

• 在选择激活函数的时候可以先选用ReLu函数如果效果不理想可以尝试其他激活函数。

多层感知机：

多层感知机就是含有至少一个隐藏层的由全连接层组成的神经网络，且每个隐藏层的输出通过激活函数进行变换。多层感知机的层数和各隐藏层中隐藏单元个数都是超参数。多层感知机按以下方式计算输出：

                                                                                               

其中𝜙表示激活函数。在分类问题中，我们可以对输出𝑂做softmax运算，并使用softmax回归中的交叉熵损失函数。 在回归问题中，我们将输出层的输出个数设为1，并将输出𝑂直接提供给线性回归中使用的平方损失函数。

小结：

• 多层感知机在输出层与输入层之间加入了一个或多个全连接隐藏层，并通过激活函数对隐藏层输出进行变换。
• 常用的激活函数包括ReLU函数、sigmoid函数和tanh函数。