BP神经网络

BP神经网络

BP神经网络是一种多层前馈神经网络，它通过反向传播算法进行训练，旨在最小化损失函数，从而对输入数据进行精确的分类或回归预测。

背景

BP (Back Propagation) 神经网络是1986年由 Rumelhart 和 McClelland 为首的科学家提出的概念，是一种按照误差逆向传播算法训练的多层前馈神经网络，是应用最广泛的神经网络。

结构：

v是输入层到隐藏层的权重，w隐藏层到输出层的权重

BP神经网络的训练过程

BP神经网络的训练过程主要分为两个阶段，
第一阶段是信号的正向传播，从输入层经过隐含层，最后到达输出层；
第二阶段是误差的反向传播，从输出层到隐含层，最后到输入层，依次调节隐含层到输出层的权重和偏置，输入层到隐含层的权重和偏置。

• 正向传播
  数据（信息、信号）从输入端输入后，沿着网络的指向，乘以对应的权重后再加和，再将结果作为输入在激活函数中计算，将计算的结果作为输入传递给下一个节点。依次计算，直到得到最终结果。
  通过每一层的感知器，层层计算，得到输出，每个节点的输出作为下一个节点的输入。这个过程就是正向传播。
• 反向传播
  将输出的结果与期望的输出结果进行比较，将比较产生的误差利用网络进行反向传播，本质是一个“负反馈”的过程。
  通过多次迭代，不断地对网络上的各个节点间的权重进行调整（更新），权重的调整（更新）采用梯度下降法。

参考：

BP（Back Propagation）神经网络——原理篇_bp神经网络原理-CSDN博客