感知机与BP神经网络

原理

1、网络的结构
BP网是一种前馈多层（一般都选用3层）网络。理论已经证明一个三 层网络可以无限近似任意连续函数。下面为经典的三层BP网络结构：

其中：
xi ：输入层第i个结点输入值 ；
wij ：输入层结点i到隐含层结点j的权重 ；
θj ：隐含层第j个结点的阈值 ；
φ(x)： 隐含层激励函数 ；
wjk ：隐含层结点j到输出层结点k的权重 ；
bk：输出层结点k的阈值 ；
f(x)：输出层激励函数 ；
yk：输出层第k个结点的输出 。

2、训练过程
训练算法就是将一组训练集送入网络，根据网络的实际输出与期望输出间的差别来调整连接权。
训练过程如下：

步骤：
1、