深度学习——BP神经网络学习笔记

一、总体流程

        BP算法是按照误差你想船舶算法训练的多层前馈神经网络。

        神经网络，将数据输入与计算步骤间以类似神经元的结构相互连接，由输入层到隐藏层再到输出层，并且在输出层上进行与期望间的误差计算，通过误差对参数进行修正，并不断迭代，达成目标输出。

 ps：隐藏神经元的设置方法，输入层节点数为m，输出层节点为n，b为1~9的整数，s为隐藏层节点的数量，可由matlab工具箱进行计算出。

 二、推导过程

        由于推导过程较为复杂，通过手写方式进行显示。

        设定输入值为x1、x2、x3,隐藏层为a1、a2、a3,输出结果为o1、o2,权重为w1、w2、w3、w4、w5、w6、w7、w8.

        1.正向传播

        通过输入值与各个隐藏层之间进行运算，求出输出值。

        2.反向计算

        通过计算结果与期望值误差进行计算，求出各个权值对权重的梯度值。

        3.权值更新

        利用求出的梯度值，对权重进行更新。