1.感知器算法来源和基本思想
“感知器”一词出自于20世纪50年代中期到60年代中期人们对一种分类学习机模型的称呼,它是属于有关动物和机器学习的仿生学领域中的问题。当时的一些研究者认为感知器是一种学习机的强有力模型,后来发现估计过高了,但发展感知器的一些相关概念仍然沿用下来。
采用感知器算法(Perception Approach)能通过对训练模式样本集的“学习”得到判别函数的系数。由于该算法不需要对各类别中模式的统计性质做任何假设,因此称为确定性的方法。
感知器算法实质上是一种赏罚过程:
–对正确分类的模式则“赏”,实际上是“不罚”,即权向量不变。
–对错误分类的模式则“罚”,使w(k)加上一个正比于xk的分量。
–当用全部模式样本训练过一轮以后,只要有一个模式是判别错误的,则需要进行下一轮迭代,即用全部模式样本再训练一次。
–如此不断反复直到全部模式样本进行训练都能得到正确的分类结果为止。
2.感知器的训练算法
2.1 两类情况算法:
已知两个训练模式集分别属于$\omega_1$类和$\omega_2$类,权向量的初始值为$w(1)$,可任意取值。若$x_k\in \omega_1,w^T(k)x_k>0$,若$x_k\in \omega_2,w^T(k)x_k\leq0$,则在用全部训练模式集进行迭代训练时,第$k$次的训练步骤为:
若$x_k\in \omega_1$且$w^T(k)x_k\leq 0$,则分类器对第$k$个模式$x_k$做了错误分类,此时应校正权向量,使得$w(k+1) = w(k) + Cx_k$,其中$C$为一个校正增量。