LDA
why?
降维分类任务。
what?
能够最大化类间区分度的坐标轴成分。
有监督的
how?
LDA分类的一个目标是使得不同类别之间的距离越远越好。同一类别之中距离越近越好。
PCA:
why?
降维任务。无监督,提取有价值的信息(基于方差)
,找到一组正交基尽可能保留最多的原始信息
目标:将一组N维降为K维,目标是选择K个单位正交基,使得数据变换到这个基上后,各个字段两两之间的协方差为0,字段的方差尽可能大。
协方差:用协方差表示两个字段的相关性。但为0表示两个字段完全独立。
协方差矩阵对角化,那么对角线上的数为特征值,对应的向量为特征向量。