FISHER线性判别MATLAB实现
Fisher线性判别上机实验报告
班级:
学号:
姓名:
算法描述
Fisher线性判别分析的基本思想:选择一个投影方向(线性变换,线性组合),将高维问题降低到一维问题来解决,同时变换后的一维数据满足每一类内部的样本尽可能聚集在一起,不同类的样本相隔尽可能地远。
Fisher线性判别分析,就是通过给定的训练数据,确定投影方向W和阈值w0, 即确定线性判别函数,然后根据这个线性判别函数,对测试数据进行测试,得到测试数据的类别。
线性判别函数的一般形式可表示成 其中
Fisher选择投影方向W的原则,即使原样本向量在该方向上的投影能兼顾类间分布尽可能分开,类内样本投影尽可能密集的要求。 如下为具体步骤:
(1)W的确定
各类样本均值向量mi
样本类内离散度矩阵和总类内离散度矩阵
样本类间离散度矩阵
在投影后的一维空间中,各类样本均值
样本类内离散度和总类内离散度
样本类间离散度
Fisher准则函数为 max
(2)阈值的确定
是个常数,称为阈值权,对于两类问题的线性分类器可以采用下属决策规则:
令则:
如果g(x)>0,则决策;如果g(x)<0,则决策;如果g(x)=0,则可将x任意分到某一类,或拒绝。
(3)Fisher线性判别的决策规则
Fisher准则函数满足两个性质:
1.投影后&