【机器学习】简单感知器

简单感知器由一个线性组合器和硬限幅器（即sgn函数，判断是正数返回1，负数返回-1）组成，线性组合器有m个输入，m个输入权值，一个偏置，图像表述如下：

（Simson Haykin）

用数学方法表述就是y=∑wixi+b,i=1,2,3…m，如果sgn(y)=+1，则分为第一类，否则分为第二类。感知器一般只做出两类判别。上述表达式可以简写为y=∑wixi,i=1,2,3…m+1，其中w(m+1)=b,x(m+1)=1.

为了得到感知器权值和偏置，需要利用训练数据对感知器进行训练。假设现在有k=1,2,3…n的训练数据，那么依次用训练数据训练感知器，用k表示训练数据序号和迭代数：1.如果y(k)= ∑wi(k)xi(k)=d(k),其中d(k)是正确分类，则w不变2.否则，w(k+1)=w(k)+δ(k)x(k), 如果d(k)>0且y(k)<0,δ(k)为正，否则为负。

经过数学证明可以得出，感知器可以在有限步骤内收敛，收敛速度与δ(k)有关。

简单感知器是一个单层的神经网络，只能在简单的线性模型上进行模式分类，具有明显的局限性。但是简单感知器基础上构建的多层感知器乃至深度神经网络，则爆发了巨大的能量。