神经网络的反向传播BP算法

简介

神经网络中经典的感知器模型，请参考我写的这篇博客[ http://blog.csdn.net/ws_20100/article/details/48929383]

本篇博客是在感知器模型之后，讨论由1986年由Rumelhart和McCelland提出的反向传播学习算法。

------------------------------------------------------------------------------------------------------------------

反向传播学习的BP算法

对于感知器模型，最初只能解决两层神经网络的学习训练问题，对于多层网络(例如三层)，便不能确定中间层的参数该如何调整。直到1986年，Rumelhart和McCelland等人提出了基于反向传播的学习算法，用于前馈多层神经网络的学习训练。由于“反向传播”的英文叫做Back-Propagation，所以这个算法也常常被学者简称为BP算法。后来，人们对BP算法不断改进，以加快其训练速度，产生了很多版本的BP算法，例如Levenberg-Marquatdt算法等等。

1.)BP算法原理