机器学习周志华5.13式推导以及BP算法理解

一、5.13式推导

变量符号说明：

推导目标：

 推导过程：

二、BP算法的理解

BP算法：误差逆传播算法，又称反向传播算法，是一种非常成功的神经网络学习算法，可以用于神经网络的训练。BP算法基于梯度下降策略，以目标的负梯度方向对参数进行调整。

运行方法：

BP神经网络前传：输入示例后逐层将信号前传，输出层产生结果，然后计算误差。

误差反向传播：得到误差后，将误差逆向传播到隐层神经元来对连接权和阈值进行调整。

然后再循环，直到达到条件后结束。随着训练论述的增加，连接权和阈值会发生变化。其目标就是最小化训练集的累计误差。