BP神经网络简介

一、简介

BP神经网络是一种按照误差反向传播算法训练的多层前馈网络，也是目前应用最广泛的神经网络模型之一。它由信息的正向传播和误差的反向传播两个过程组成。输入层的神经元负责接受外界发来的各种信息，并将信息传递给中间层神经元，中间隐含层神经元负责将接收到的信息进行处理变换，根据需求处理信息，实际应用中可将中间隐含层设置为一层或者多层隐含层结构，并通过最后一层的隐含层将信息传递到输出层，这个过程就是BP神经网络的正向传播过程。

当实际输出与理想输出之间的误差超过期望时，就需要进入误差的反向传播过程。它首先从输出层开始，误差按照梯度下降的方法对各层权值进行修正，并依次向隐含层、输入层传播。通过不断的信息正向传播和误差反向传播，各层权值会不断进行调整，这就是神经网络的学习训练。当输出的误差减小到期望程度或者预先设定的学习迭代次数时，训练结束，BP神经网络完成学习。

二、核心步骤

实线代表正向传播，虚线代表反向传播

1、正向传播

正向传播就是指数据（或信息、信号）从输入端输入之后，沿着网络的指向，乘以对应的权重之后再加和，在将结果作为输入在激活函数中进行计算，将计算的结果作为输入传递给下一个节点。依次计算，直到得到最终的输出。

2、反向传播

反向传播是指将输出的结果与理想的输出结果进行比较，将输出结果与理想输出结果之间的误差利用网络进行反向传播的过程，本质是一个“负反馈”的过程。具体的过程是通过多次迭代的过程，不断地对网络上各个节点间的所有的权重进行调整，权重调整的方法采用梯度下降法。