【机器学习】反向传播神经网络推导

简单的反向传播神经网络可以说就是将基本单元如感知器，组成层级结构，划分出输入层、隐含层、输出层；不同层之间通过连接来形成耦合，从而组成一个有功用的网状算法结构。
感知器可以通过迭代计算来逼近想获取的结果，迭代过程中感知器不断和计算结果反馈，较为常用的迭代计算方法有梯度下降法。当感知器组成网络之后，每个感知器如果获得结果反馈就比较麻烦，这里就要用到反向传播方法。
假设我们有一个计算过程$y=a * b+c$，其中$a,b,c$都是输入变量，y是输出。按照梯度下降法，针对$a$的迭代计算过程为$a_{k+1}=a_{k}+\eta\frac{\partial y}{\partial a} = a_{k}-\eta b$。其中$\eta$是学习率，是一个经验值。以上对于b和c同理。如果我们把乘法提升到加法的上一层,每一层之间用connect连接来耦合：

$$connect1: q=a * b \\ connect2: y=q+c$$
那么 $a,b,c$的迭代计算过程都要相应变化：
$$c_{k+1}=c_k-\eta * 1 \\ grad(q)=1,q_{k+1}=q_k-\eta * 1 \\ a_{k+1}=a_k - \eta grad(q)* b$$
注意到这里将 $q=a*b$单独提取出来，其实是可以用微积分的链式法则来推导的。另外， $\eta$一般是个很小的值，是不能传递的，因此每一层之间要传递与 $\eta$无关的提低。实际应用中需要使用链式法则来计算神经网络的反馈。
一般而言神经网络每一层的输出是一堆数据，这里我只推导简单的反向传播神经网络。前向单次计算过程是：先计算连接，输入为上次的输出；然后用H函数激活连接计算后的结果，作为下一次的输入。第k层的感知器输入之后需要经过滤波，定义为激活函数 $O_{q}=H(Q_1,Q_2...)$，层之间的连接函数为 $[Q_1,Q_2...]=\sum{w_{qp}I_q}$。其中 $I_q=O_p$。我们要反馈修正的是权值w。这里定义神经网络层名为j->p->q。
设总的代价函数为 $$cost(O) = \frac{1}{2}(T-O)^2$$ ，则根据链式法则，修正量计算为 $$grad (w_{qp})=\frac{\partial cost(O)}{\partial w_{qp}}=\frac{\partial cost(O)}{\partial O_{q}}\frac{\partial O_{q}}{\partial Q_{q}}\frac{\partial Q_{q}}{\partial w_{qp}}\\ = \frac{\partial cost(O)}{\partial O_{q}}\Delta H_{q}I_{q}\\=-(T-O_q)\Delta H_{q}(Q_q)I_{q}$$
其中T表示目标输出，是人工标记结果。 $O_q$是神经网络输出层的输出。输出层没有前向连接，修正量为 $\Delta w_{qp}=-\eta grad(w_{qp})$。
然后是隐含层，隐含层是中间层，受到前方多重连接的影响，且不知道中间目标输出T应该是多少，因此需要从输出层向前递推，其中 $N^{q}$是第q层的感知器数量：
$$grad (w_{pj})=\frac{\partial cost(O)}{\partial O_{p}}\frac{\partial O_{p}}{\partial Q_{p}}\frac{\partial Q_{p}}{\partial w_{pj}}\\=\sum_{q=1}^{N^{q}}\frac{\partial cost(O)}{\partial Q_{q}}\frac{\partial Q_{q}}{\partial O_p}\Delta H_{p}I_p \\ =\sum_{q=1}^{N^{q}}\frac{\partial cost(O)}{\partial Q_q}w_{qp}\Delta H_{p}I_p \\ =\sum_{q=1}^{N^{q}} \frac{\partial cost(O)}{\partial O_{q}}\frac{\partial O_{q}}{\partial Q_{q}}w_{qp}\Delta H_{p}I_p\\ = \sum_{q=1}^{N^{q}}\frac{grad(w_{qp})}{I_q}w_{qp}\Delta H_{p}I_p$$
注意这里的代价函数是cost(O)，只和输出有关,而不是$cost(O_p)$等中间代价函数，后者是无法传递计算的。
设 $H(x)=\frac{1}{1-e^{x}}$，即 $sigmoid$函数，有 $\Delta H(Q_q)=H(Q_q)(1-H(Q_q))=O_q(1-O_q)$,则输出端修正量为 $$\Delta w_{qp}=\eta (T-O_q)O_q(1-O_q)I_{q}$$ 隐藏层修正量为 $$\Delta w_{pj}=-\eta \sum_{q=1}^{N^{q}}\frac{grad(w_{qp})}{I_q}w_{qp}O_p(1-O_p)I_p \\=-\eta \sum_{q=1}^{N^{q}}grad(w_{qp})w_{qp}O_p(1-O_p)$$