PCA SVD LDA

PCA的简单介绍及其matlab事项：http://www.cnblogs.com/tornadomeet/archive/2012/12/30/2839615.html

PCA vs SVD：http://www.cnblogs.com/LeftNotEasy/archive/2011/01/19/svd-and-applications.html

PCA vs  LDA：http://www.cnblogs.com/LeftNotEasy/archive/2011/01/08/lda-and-pca-machine-learning.html

LDA：降维，分类

SVD：压缩矩阵

PCA：降维，去相关；只用于方阵

LDA的输入数据是带标签的，而PCA的输入数据是不带标签的，所以PCA是一种unsupervised learning

其实PCA几乎可以说是对SVD的一个包装，如果我们实现了SVD，那也就实现了PCA了，而且更好的地方是，有了SVD，我们就可以得到两个方向的PCA，如果我们对A’A进行特征值的分解，只能得到一个方向的PCA