神经网络3.2：BP神经网络

BP（Back Propagation）神经网络

BP神经网络（误差方向传播神经网络） ：

网络结构如图

与单层感知器相比，在输入层与输出层之间多了隐藏层，上图的网络结构为3层，输入层不算网络的层数。

Delta学习规则：

Delta学习规则是一种利用梯度下降法的一般性的学习规则。

其中W,X为矩阵 函数f()为激活函数，y=f(WX)。

BP算法：

示例：

激活函数：