势函数法 (一种确定性的非线性分类方法)

势函数的目的

用势函数的概念来确定判别函数和划分类别界面。

基本思想

1.假设要划分属于两种类别ω1和ω2的模式样本,这些样本可看成是分布在n维模式空间中的点 x k x_k xk
2.把属于ω1的点比拟为某种能源点,在点上,电位达到峰值。
3. 随着与该点距离的增大,电位分布迅速减小,即把样本 x k x_k xk附近空间x点上的电位分布,看成是一个势函数 K ( x , x k ) K(x, x_k) K(x,xk)
4.对于属于ω1的样本集群,其附近空间会形成一个“高地”,这些样本点所处的位置就是“山头”。
5. 同理,用电位的几何分布来看待属于ω2的模式样本,在其附近空间就形成“凹地”。
6. 只要在两类电位分布之间选择合适的等高线,就可以认为是模式分类的判别函数。

判别函数的产生

  1. 模式分类的判别函数可由分布在模式空间中的许多样本向量 x k , k = 1 , 2 , … 且 {x_k, k=1,2,…且 } xk,k=1,2,的势函数产生。
  2. 任意一个样本所产生的势函数以 K ( x , x k ) K(x, x_k) K(x,xk)表征,则判别函数 d ( x ) d(x) d(x)可由势函数序列 K ( x , x 1 ) , K ( x , x 2 ) , … K(x, x_1), K(x, x_2),… K(x,x1)K(x,x2)来构成,序列中的这些势函数相应于在训练过程中输入机器的训练模式样本 x 1 , x 2 , … 。 x_1,x_2,…。 x1x2
  3. 在训练状态,模式样本逐个输入分类器,分类器就连续计算相应的势函数,在第 k k k步迭代时的积累位势决定于在该步前所有的单独势函数的累加。
  4. K ( x ) K(x) K(x)表示积累位势函数,若加入的训练样本 x k + 1 x_k+1 xk+1是错误分类,则积累函数需要修改,若是正确分类,则不变。
  5. 在这里插入图片描述
  6. 在这里插入图片描述
第二类势函数

在这里插入图片描述
在这里插入图片描述

势函数的选择

用第二类势函数,当训练样本维数和数目都较高时,需要计算和存储的指数项较多。
正因为势函数由许多新项组成,因此有很强的分类能力。

选择势函数的条件:

一般来说,若两个n维向量 x x x x k x_k xk的函数 K ( x , x k ) K(x, x_k) K(x,xk)同时满足下列三个条件,则可作为势函数。
K ( x , x k ) = K ( x k , x ) K(x, x_k)=K(x_k, x) K(x,xk)=K(xk,x),并且当且仅当x=xk时达到最大值;
当向量x与xk的距离趋于无穷时, K ( x , x k ) K(x, xk) K(x,xk)趋于零;
K ( x , x k ) K(x, x_k) K(x,xk)是光滑函数,且是 x 与 x k x与x_k xxk之间距离的单调下降函数。

  • 5
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值