PCA与LDA的异同

PCA和LDA虽然都用到数据降维的思想。

• 监督方式不一样，PCA是无监督的，LDA是有监督的。
• 目的也不一样。PCA是为了去除原始数据集中冗余的维度，让投影子空间的各个维度的方差尽可能大，也就是熵尽可能大。LDA（线性判别式分析）关注的是标注，希望投影之后不同类别的数据点距离尽量大，相同类别的数据点距离尽量紧凑。