独立成分分析 ( ICA ) 与主成分分析 ( PCA )再解析

ICA认为观测信号是若干个统计独立的分量的线性组合，ICA要做的是一个解混过程。而PCA是一个信息提取的过程，依据贡献度大小，将原始数据降维，现已成为ICA将数据标准化的预处理步骤。这里蕴含着独立必不相关，因而先做一个PCA。PCA是协方差矩阵为对角阵，因而数据是不相关的。

1.感受一

PCA和ICA的用途完全不同。如果只在意数据的能量或方差、假设噪声或不感兴趣的信号都比较微弱，那么用PCA就能把主要信号留下来。在某种意义上，ICA更智能——它不在意信号的能量或方差，只看独立性。所以给定的待分析的混合信号经任意的线性变换都不会影响ICA的输出结果，但会严重影响PCA的结果。

2.感受二

若多于一个原始独立信号是正态的，那么ICA的结果不唯一；下面给个直觉。若数据在两个正交方向方差相同（比如协方差是isotropic的），PC