PCA与ICA的区别

简单地讲，PCA是一个降维的过程，ICA则是帮助你从多个维度分离有用数据的过程。

附上两个链接地址：

PCA: Principal Component Analysis explained visually

ICA: What is the difference between PCA and ICA?

主成分分析（PCA）

3D示例：

在三个维度上，PCA更有用，因为很难看清数据云。在下面的例子中，原始数据以3D形式绘制，但您可以通过转换将数据投影到2D中，与查找相机角度不同：旋转轴以找到最佳角度。要查看“官方”PCA转换。

请单击“显示PCA”按钮。PCA变换确保水平轴PC1变化最大，垂直轴PC2次之，第三轴PC3最小。很明显，PC3是我们放弃的。

独立成分分析（ICA）

作为ICA的一个例子，考虑两个图像：

将它们按不同比例混合制作这两种混合物：

如果我们现在将ICA应用于这些图像，我们会得到以下结果：

虽然不是100％完美，但它是两幅混合图像的完美分离。

总结：

当你希望查找数据的排名较低的表示时，PCA可以提供帮助；

当你希望将数据表示形式看作独立的子元素时，ICA可以提供帮助；

通俗的将：PCA有助于压缩数据，而ICA有助于分离数据。

注意1：PCA和SVD是相同的，通常使用中心数据矩阵的SVD更好，因为SVD算法比PCA更快，更稳定。

注意2：在某些情况下，NMF（非负矩阵分解）可以用作ICA。在NMF中，您希望找到的基础是帮助您将数据重建为基础向量的正向求和。这意味着基础将具有表示原始数据部分的矢量，如果数据包含图像，则NMF基础包含部分图像，这些图像可帮助您重建数据集中的任何图像。