PCA和ICA的对比

PCA和ICA的对比

by:Yang Liu

1.ICA处理的数据为非高斯分布的；PCA处理的数据是高斯分布的。
2.ICA提取相互独立的属性，而且降维；PCA只做数据的降维。ICA的数据预处理中会用到PCA。
3.ICA中各分量独立，PCA中各分量不相关。
4.ICA的目的是找到这样一组分量，使此分量最大独立化，进而发现信息中的一些隐藏因素；PCA的目的是找到这样一组分量，使重构误差最小，使此分量最能代表原事物的特征。
5.PCA为最大化方差，使得残余方差最小，或信息损失最小（方差即信息）。ICA为最大化独立性，使联合概率与各分量概率乘积最接近。
6.PCA对分布没有假设，ICA则要求分布独立（同时不为高斯分布）。
7.ICA认为观测信号是若干个统计独立的分量的线性组合，ICA要做的是一个解混过程。而PCA是一个信息提取的过程，将原始数据降维。