matlab费希尔判别,Matlab-线性分类器之Fisher线性判别

在许多实际问题中，由于样本特征空间的类条件密度函数常常很难确定，随着特征空间维数的增加所需样本数急剧增加，而且利用Parzen窗等非参数方法估计分布往往需要大量样本，因此在实际问题中，往往不去求类条件概率密度函数，而是利用样本集直接设计分类器。具体说就是首先给定某个判别函数，然后利用样本集确定判别函数中的未知参数。这种方法称为判别函数法，并且根据其中判别函数的形式，可分为线性分类器和非线性分类器。线性分类器较为简单，在计算机上容易实现，在模式识别中应用非常广泛。在此讨论线性分类器中的Fisher线性判别，应用统计方法解决很多实际问题的时候，经常会遇到维数问题。在低维空间里解析上或者计算上可行的方法，在高维空间里往往行不通，因此降低维数有时就成为处理实际问题的关键。

可以考虑把d维空间的样本投影到一直线上，形成一维空间，即把维数压缩到一维，这在数学上总很容易办到。然而即使样本在d维空间里形成若干紧凑的互相分得开的集群，若把它投射到任意的一条直线上，也可能使几类样本混在一起而变得无法识别。但在一般情况下，总可以找到某个方向，使在这个方向的直线上，样本的投影能分开的很好。问题是如何根据实际情况来找到这条最好的、最易于分类的投影线。这就是Fisher线性判别所需要解决的基本问题。

对于两类问题的Fisher线性判别的具体方法如下：

1.计算各类样本均值向量

,

是

类的样本个数。

2.计算样本类内离散度矩阵

和总类内离散度矩阵

。