***PCA,ZCA,LDA,LSI,SVD

收藏两篇博文：
机器学习中的数学(4)-线性判别分析（LDA）, 主成分分析(PCA)
机器学习中的数学(5)-强大的矩阵奇异值分解(SVD)及其应用
白化(Whitening): PCA 与 ZCA (转)

博文涉及内容：
1、PCA 与 LDA 区别
2、矩阵分解的一些基础知识(奇异值与特征值基础知识)
3、利用SVD实施PCA
4、在PCA的基础上进行ZCA
5、利用SVD实施LSI(潜在语义索引)

需要注意一个概念：通过PCA变换后得到的变量V具有“线性不相关性”，但是，这些变量V依然可能具有nonlinear correlation。