理论基础
势函数法是非线性分类器中常用到的一种方法,它借用电场的概念,来解决模式分类问题。用势函数的概念来确定判别函数和划分类别界面。在势函数法中,把属于一类的样品看做正电荷,而属于另一类的样品看作负电荷,从而把模式的分类转变为正负电荷的转移,电位为0 的等位线即为判别界限。
基本思想
- 假设要划分属于两种类别
w1
和
w2
的模式样本,这些样本可堪称是分布在
n
维模式空间中的点
xk 。 - 把属于 w1 的点比拟维某种能源点,在点上,电位达到峰值。
- 随着与该点距离的增大,电位分布迅速减小,即把样本
xk
附近空间
x
点上的电位分布,看成是一个势函数
K(x,xk) 。 - 对于属于 w1 的样本集群,其附近空间会形成一个“高地”,这些样本所处的位置就是“山头”。
- 同理,用电位的几何分布来看待属于 w2 的模式样本,在其附近形成“凹地”。
- 只要在两类电位分布之间选择合适的等高线,就可以认为是模型分类的判别函数。
势函数与积累势函数
判别函数的产生
从势函数可以看出,累积位势起着判别函数的作用
当 xk+1 属于 w1 时, Kk(xk+1)>0 ,或当 xk+1 属于 w2 时, Kk(xk+1)《0 ,则累积位势不做任何修改就可用做判别函数。
由于一个模式样本的错误分类造成累积位势在训练时的变化,因此势函数算法提供了确定 w1 和 w2 两类判别函数的迭代过程。
依次输入样本,利用势函数逐步积累势能的过程。
算法步骤
详细介绍 有更详细的解释,有时间补上