数据挖掘-基础知识-笔记汇总6：数据预处理-线性判别方法LDA

课程笔记第五篇

本课程笔记的课程来源于清华大学深圳研究生院-袁博老师的《数据挖掘：理论与算法》。视频在学堂在线或者b站都有。

第二章第七节上-LDA（线性判别方法）：

上篇所讲述的PCA并不适用于分类问题，不考虑分类类别的，是一种无监督的方法。

因此，有标签的数据，使用LDA的方法，也是降维，但是是能把类别区分开，不重合。

费舍判别准则

J越大越好，分子是两个类别的均值差的绝对值平方，分母是两个类别的方差，分子越大越好，分母越小越好。

同样使用数学方法进行优化，最终得到还是一个特征方程，且得到最后的式子：

这个就是最终的需要的投影方向。注意：以上只适用于二分类问题。