在前面我们所讨论的Rosenblatt感知机,其本质是一个单层神经网络。但这一网络局限于线性可分模式的分类问题。而由Widrow和Hoff(1960)提出的最小均方算法(LMS)也是基于权值可调的单个线性神经元。同样限制了这一算法的计算能力。为了克服上述局限,多层感知机(MLP)应运而生。
多层感知机:
多层感知机的基本特征:
- 网络中每个神经元模型包含一个可微的非线性激活函数。
- 网络中包含一个或多个隐藏在输入与输出神经节点之间的层。
- 网络展示出高度的连接性,其强度由网络的突触权值决定的。
训练感知机的一个流行方法