对于BP神经网络的理解

对于BP神经网络的理解

BP算法是一个迭代算法，它的基本思想为：（1）先计算每一层的状态和激活值，直到最后一层（即信号是前向传播的）；（2）明白损失函数仅和权重函数和偏执有关，调整权重和偏置可以减少或增大代价（损失）（3）结合求导链式法则和函数之和的求导法则，对每层权重（偏置）参数求偏导，并更新权重（偏置）参数）；（4）迭代前面（1）（3）步骤，直到满足停止准则（比如相邻两次迭代的误差的差别很小，达到一定的迭代次数等）。