模式识别（六）判别域代数界面方程

1.分类的基本原理：
不同模式对应特征点在不同的区域中分布。运用已知类别的训练样本进行学习，产生若干个代数界面d(x)=0，将特征空间划分为一些互不重叠的子区域。
2.判别函数：表示界面的函数d(x)称为判别函数；
对于两类的分类问题，
若线性可分，它们的边界线就是一个判别函数：

若线性不可分，则如下图所示：

对于三类的分类问题，它们的边界线也是一个判别函数：

3.1 用判别域界面方程分类的概念：
a).线性可分的定义：
对于来自两类的一组模式,x1,x2,x3,xn，如果能用一个线性判别函数正确分类，则称他们是线性可分的。
b).本节分类方法的基本技术思路：
1).利用训练样本求出分类器/判别函数；
2).利用判别函数对未知类别样本分类；
3.2 线性判别函数：

a).两类问题的分类：
对于两类问题，待识别模式增广特征矢量x可以通过下面的判别规则进行分类识别：设d(x)为判别函数：

b).多类问题的分类：
处理多类问题主要有以下几种方法：
第一种方法：

图例如下：（其中有都是负方向的区域无法辨别，同时是多个正方向的区域也无法分辨）

判别规则为：



例题：已知三类w1,w2,w3的判别函数分别为：


图例如下：

第二种方法：
对c类中任意两类wi和wj都分别建立一个判别函数，这个判别函数将属于wi的模式与属于wj的模式区分开。此函数对其他模式分类不提供信息，因此共需要c(c-1)/2个这样的判别函数。

例题：



第三种方法（没有不确定区域的方法）（wi/wj）：
如图例：

例题：

总结：