吴恩达机器学习（五）神经网络 2/2 —— 反向传播算法（BP-神经网络）

1. 为什么要用反向传播——梯度下降

上一篇中我们构建了神经网络模型，并推导出其代价函数（见 2.3代价函数），那么可以像逻辑回归那样利用梯度下降来优化参数吗？

跟之前一样，梯度下降法也是通过求 $J(\theta )$ 的偏导数来更新参数，对于某个 ${\theta }_{ij}$，给它加上减去一个很小的量 ϵ 来计算梯度：
$$\frac{\partial J(\theta )}{\partial {\theta }_j}\approx \frac{J({\theta }_1,\cdots ,{\theta }_j+ϵ,\cdots ,{\theta }_n)-J({\theta }_1,\cdots ,{\theta }_j-ϵ,\cdots ,{\theta }_n)}{2ϵ}$$但稍微分析一下算法的复杂度就能知道，这样的方法计算速度十分缓慢。对于每一组数据，我们需要计算所有权值的梯度：$$总的计算次数=训练样本个数\ast 网络权值个数\ast 前向传播计算次数$$在通常情况下这样的计算复杂度是无法接受的，因此我们需要引入反向传播算法来简化计算。

2. 反向传播的基础补充——链式法则

为了能够理解之后对于 反向传播 公式的推导，我们首先要了解一个关于 多元复合函数求导的 链式法则。下图中，$x,y$ 是自变量，$u,v$ 是 $x,y$ 的函数，$p,q$ 又是 $u,v$ 的函数，最后 $z$ 是 $p,q$ 的函数：

当我们要求$z$对$x,y$的偏导数，有以下公式：
$$\frac{\partial z}{\partial x}=\frac{\partial z}{\partial p}\frac{\partial p}{\partial u}\frac{\partial u}{\partial x}+\frac{\partial z}{\partial p}\frac{\partial p}{\partial v}\frac{\partial v}{\partial x}+\frac{\partial z}{\partial q}\frac{\partial q}{\partial u}\frac{\partial u}{\partial x}+\frac{\partial z}{\partial q}\frac{\partial q}{\partial v}\frac{\partial v}{\partial x}$$ $$\frac{\partial z}{\partial y}=\frac{\partial z}{\partial p}\frac{\partial p}{\partial u}\frac{\partial u}{\partial y}+\frac{\partial z}{\partial p}\frac{\partial p}{\partial v}\frac{\partial v}{\partial y}+\frac{\partial z}{\partial q}\frac{\partial q}{\partial u}\frac{\partial u}{\partial y}+\frac{\partial z}{\partial q}\frac{\partial q}{\partial v}\frac{\partial v}{\partial y}$$和上图类似，神经网络就是一个有很多层次的多元函数。

3. 反向传播是什么——直观展示

注：下图均是以一个样本为例计算，并不是整个训练集

3.1 前向传播过程回顾

首先以一个两输入、一输出的四层神经网络为例回顾下 前向传播（Forward Propagation）的过程：（图源）

注意：其中$f(e)$为激活函数，$w$表示权重参数，为保持符号统一，后续还是用$\theta$表示

• 第一层为输入层，输入信号为 $x_1,x_2$，

---

• 第二三层为隐藏层：
  

---

最后一层是输出层：

到这里为止，神经网络的一轮前向传播已经完成，最后输出的 $y$ 就是本次前向传播神经网络计算出来的结果（预测结果），但这个预测结果不一定是正确的，和真实的标签 $z$ 相比较，预测结果存在误差 $\delta$，如下：

我们知道，优化一个神经网络就是优化它的权重（参数），最开始已经解释了用普通方法计算的复杂度，因此就有了反向传播的基本思路：

3.2 反向传播过程展示

输出层神经元有其对应的真实标签，可以想象内部的隐藏层神经元也有其对应的真实标签，只是我们看不到也无法计算，但我们可以用反向传播误差的思想来计算内部神经元与其真实值之间的误差。

• 改变数据流的方向，通过层与层之间的权重，可以得到每个神经元的误差 ${\delta }_i$：

• 计算得到每个神经元的误差后，就可以通过求偏导来逐层更新每个神经元的输入权重，即完成优化神经网络的目的。（注：$\eta$就是学习率，后续还是用$\alpha$表示）
  
  
  
  

到此为止，整个神经网络反向传播的一轮权重更新已经完成。

3.3 小结

由上述过程，我们可以明确两点：

1. 正向传播——求损失，即代价函数
2. 反向传播——回传误差，得到梯度，更新权重

4. 公式推导

在之前的逻辑回归和线性回归中，梯度下降法可以表示为：
$$\theta :=\theta -\alpha \frac{\partial J(\theta )}{\partial \theta }$$而在神经网络中，我们使用反向传播得到的误差 $\delta$ 来获取梯度$\frac{\partial J(\theta )}{\partial \theta }$

4.1 误差计算 —— $\delta$

以下面4层神经网络为例：

定义 第 $l$ 层第 $j$ 个神经元的误差 为（其中$z$是上图中的中间变量）：$${\delta }_j^{(l)}=\frac{\partial J(\theta )}{\partial z_j^{(l)}}$$可以简化为 第 $l$ 层神经元的误差 是：$${\delta }^{(l)}=\frac{\partial J(\theta )}{\partial z^{(l)}},z^{(l)}={\theta }^{(l-1)}{a}^{(l-1)}$$对误差公式的解释如下（参考： 如何理解反向传播的误差公式）：

分析网络的内部，稍微把 $z^{(l)}$ 改一下，就会影响到神经网络 $h_{\theta }(x)$ 的值，从而影响到$J(\theta )$。
因此$\frac{\partial J(\theta )}{\partial z^{(l)}}$表示神经元的加权输入$z^{(l)}$的变化给损失函数$J(\theta )$带来的变化梯度。

如果神经网络符合数据，根据最小值条件（函数取得最小值的必要条件，导数为0），变化率应该为0。那就是说，可以认为${\delta }^{(l)}$表示与神经网络符合数据的理想状态的偏差。这个偏差表示为“误差”。

下面我们就来算一下各层的误差 $\delta$：

• Layer4：$${\delta }^{(4)}=a^{(4)}-y$$
• Layer3（链式求导）：$$\begin{array}{rl}{\delta }^{(3)}=\frac{\partial J}{\partial z^{(3)}}& =\frac{\partial J}{\partial a^{(4)}}\cdot \frac{\partial a^{(4)}}{\partial z^{(4)}}\cdot \frac{\partial z^{(4)}}{\partial a^{(3)}}\cdot \frac{\partial a^{(3)}}{\partial z^{(3)}}\\ & \\ & =(\frac{-y}{a^{(4)}}+\frac{1-y}{1-a^{(4)}})\cdot [a^{(4)}(1-a^{(4)})]\cdot {\theta }^{(3)}\cdot [a^{(3)}(1-a^{(3)})]\\ & \\ & =(a^{(4)}-y)\cdot {\theta }^{(3)}\cdot g^{\prime }(z^{(3)})\\ & \\ & =({\theta }^{(3)}{)}^T\cdot {\delta }^{(4)}\cdot g^{\prime }(z^{(3)})(吴恩达给出的顺序，具体应用以实际维度为准)\end{array}$$

将代价函数简化表示为：$J(\theta )=-y\log h(x)-(1-y)\log (1-h(x))=-y\log a^{(4)}-(1-y)\log (1-a^{(4)})$，所以：
$$\frac{\partial J}{\partial a^{(4)}}=(\frac{-y}{a^{(4)}}+\frac{1-y}{1-a^{(4)}})$$

Sigmoid函数的导数为：$g^{\prime }(z)=g(z)(1-g(z))$，所以：
$$\frac{\partial a^{(4)}}{\partial z^{(4)}}=\frac{\partial g(z^{(4)})}{\partial z^{(4)}}=a^{(4)}(1-a^{(4)})$$$$\frac{\partial a^{(3)}}{\partial z^{(3)}}=\frac{\partial g(z^{(3)})}{\partial z^{(3)}}=a^{(3)}(1-a^{(3)})$$

• Layer2（推导同上）：$${\delta }^{(2)}=\frac{\partial J}{\partial z^{(2)}}=({\theta }^{(2)}{)}^T\cdot {\delta }^{(3)}\cdot g^{\prime }(z^{(2)})$$

4.2 梯度计算——误差矩阵 $\Delta$

在上一步计算得到每一层神经元的误差后，就可以计算每层 $\theta$ 的梯度，用误差矩阵 $\Delta$ 表示（注：以下的$J(\theta )$无正则化）：$${\Delta }^{(3)}=\frac{\partial J}{\partial {\theta }^{(3)}}=\frac{\partial J}{\partial z^{(4)}}\cdot \frac{\partial z^{(4)}}{\partial {\theta }^{(3)}}={\delta }^{(4)}(a^{(3)}{)}^T$$$${\Delta }^{(2)}=\frac{\partial J}{\partial {\theta }^{(2)}}=\frac{\partial J}{\partial z^{(3)}}\cdot \frac{\partial z^{(3)}}{\partial {\theta }^{(2)}}={\delta }^{(3)}(a^{(2)}{)}^T$$$${\Delta }^{(1)}=\frac{\partial J}{\partial {\theta }^{(1)}}=\frac{\partial J}{\partial z^{(2)}}\cdot \frac{\partial z^{(2)}}{\partial {\theta }^{(1)}}={\delta }^{(2)}(a^{(1)}{)}^T$$一般化为：
$${\Delta }^{(l)}=\frac{\partial J}{\partial {\theta }^{(l)}}={\delta }^{(l+1)}(a^{(l)}{)}^T$$

加上下标：
$${\Delta }_{ij}^{(l)}=\frac{\partial J}{\partial {\theta }_{ij}^{(l)}}=a_j^{(l)}{\delta }_i^{(l+1)}$$

• $l$ ：代表目前所计算的是第几层
• $j$ ：代表目前计算层中的激活单元的下标
• $i$ ：代表下一层中误差单元的下标

4.3 梯度矩阵—— $D$

加上正则化项和系数$\frac{1}{m}$，用 $D^{(l)}$ 来表示每层权值 ${\theta }^{(l)}$ 的更新过程：$${\theta }^{(l)}:=\theta (l)+\alpha D^{(l)}$$其中$$D_{ij}^{(l)}=\{\begin{array}{ll}\frac{1}{m}{\Delta }_{ij}^{(l)}+\frac{\lambda }{m}{\theta }_{ij}^{(l)}& \text{if j=0}\\ & \\ \frac{1}{m}{\Delta }_{ij}^{(l)}& \text{if j=0 }\end{array}$$

5. 反向传播计算过程总结

1. 初始化所有神经元的误差，即对于所有的$l,i,j$，初始化${\Delta }_{ij}^{(l)}=0$
2. 对于 $m$ 个样本中的每一个样本：
   1. 获取输入变量 $a^{(1)}=x^{(k)},k=1,2\cdot \cdot \cdot ,m$
   2. 前向传播，计算各层激活向量 $a^{(l)}$
   3. 计算输出层误差 ${\delta }^{(L)}$
   4. 计算其他层误差 ${\delta }^{(L-1)},{\delta }^{(L-2)},...,{\delta }^{(2)}$
   5. 计算误差矩阵 ${\Delta }_{ij}^{(l)}:={\Delta }_{ij}^{(l)}+a_j^{(l)}{\delta }_i^{(l+1)}$
3. 计算梯度矩阵：$$D_{ij}^{(l)}=\{\begin{array}{ll}\frac{1}{m}{\Delta }_{ij}^{(l)}+\frac{\lambda }{m}{\theta }_{ij}^{(l)}& \text{if j=0}\\ & \\ \frac{1}{m}{\Delta }_{ij}^{(l)}& \text{if j=0 }\end{array}$$
4. 更新权值：${\theta }^{(l)}:={\theta }^{(l)}+\alpha D^{(l)}$

6. 补充：权值随机初始化

对于逻辑回归，通常将参数初始化为0。对于神经网络，初始化为0不可行。

如果我们令所有的初始参数都为0或者一个非0的数，这会导致每层的 激活单元 都相同，每一层都在计算相同特征，那么是无法进行非线性的拟合的。换句话说，本来我们希望不同的神经元学习到不同的特征，但是由于参数相同以及输出值都一样，不同的结点根本无法学到不同的特征！这样就失去了网络学习特征的意义了。

因此我们使用随机化的初始化方法，通常将参数初始化为$(-\epsilon ，\epsilon )$之间的随机值。

参考：
1.反向传播过程
2.带下标的公式推导
3.不带下标的公式推导
4.吴恩达机器学习笔记week5