课程笔记第五篇
本课程笔记的课程来源于清华大学深圳研究生院-袁博老师的《数据挖掘:理论与算法》。视频在学堂在线或者b站都有。
第二章第七节上-LDA(线性判别方法):
上篇所讲述的PCA并不适用于分类问题,不考虑分类类别的,是一种无监督的方法。
因此,有标签的数据,使用LDA的方法,也是降维,但是是能把类别区分开,不重合。
费舍判别准则
J越大越好,分子是两个类别的均值差的绝对值平方,分母是两个类别的方差,分子越大越好,分母越小越好。
同样使用数学方法进行优化,最终得到还是一个特征方程,且得到最后的式子:
这个就是最终的需要的投影方向。注意:以上只适用于二分类问题。