BP神经网络

BP神经网络

BP神经网络从结构上讲有输入层、隐藏层、输出层；从本质上讲就是以网络误差平方为目标函数，采用梯度下降法来求取目标函数的最小值。

原理（即一次训练过程）

以含有一个隐藏层的BP神经网络为例：

图中每一个结点（小圆圈）都有不同的权值（一般为0-1之间的数字），权值用a表示，在公式中一般a有上下标，上标的0,1,2，…表示第几层，0层表示输入层，下标0,1,2，…则表示这一层的哪个位置的权值。而公式中W则表示权重，角标与上边类似。下一层的权值等于上一层的权值乘以相应的权重，有时候结果不是很理想就可以再加上一个偏置b。当然你会问这加乘加乘结果怎么保证在0-1之间呢？所以还需要一个这样的运算：

经过这样一个运算，我们就可以把任何一个有理数调整为0-1之