神经网络学习笔记（五）:感知机

  感知机在神经网络发展的历史上占据着重要的位置：它是第一个从算法上完整描述的神经网络。它的发明者Rosenblatt是一位心理学家。

  感知机是用于线性可分模式（即不同的类别可由超平面完全分割）分类的最简单的神经网络模型，基本上它是由一个具有可调突触权值和偏置的神经元组成。用来调节这个神经网络中的自由参数的算法最早出现在Rosenblatt提出的用于其脑感知模型的一个学习过程中。事实上，Rosenblatt证明了当用来训练感知器的向量取自两个线性可分的类时，感知器算法是收敛的，并且决策面是位于两类之间的超平面。算法的收敛性证明称为感知器收敛定理。

感知机：

  感知机是建立在一个非线性神经元上，比如使用阈值函数作为激活函数（见笔记一的概念）的McCulloch–Pitts模型，这里的阈值函数我们选择符号函数，激活函数输入为正时，神经元输出为1，反之，为-1。

           

   其中

  

   φ为激活函数，或者叫做硬限幅器（限制输出范围），感知机的目的是把外部作用刺激  正确分为与两类。分类规则是：如果感知器输出y是+1就将  表示的点分配给类，反之，分配给。进一步在由 构成的m维空间中，画出分类超平面，该超平面为