独立成分分析 ( ICA ) 与主成分分析 ( PCA ) 的区别

最新推荐文章于 2024-08-11 23:49:39 发布

沈子恒

最新推荐文章于 2024-08-11 23:49:39 发布

阅读量3.8w

点赞数 16

分类专栏：深度学习|图像分割

本文链接：https://blog.csdn.net/shenziheng1/article/details/53547401

版权

本文介绍了主成分分析PCA和独立成分分析ICA的区别，包括两者的目的、假设和应用场景。PCA通过最大化方差找到不相关变量，而ICA则寻找统计独立的源信号。在高斯分布信号下，PCA与ICA等价。文中还提到了PCA的单位选择问题和ICA的盲源分离应用。

摘要由CSDN通过智能技术生成

1.前言

参考资料：https://www.zhihu.com/question/28845451

书上写的是：
1. 主成分分析假设源信号间彼此非相关，独立成分分析假设源信号间彼此独立。
2. 主成分分析认为主元之间彼此正交，样本呈高斯分布； 独立成分分析则不要求样本呈高斯分布。
在利用最大化信息熵的方法进行独立成分分析的时候，需要为源信号假定一个概率密度分布函数g'，进而找出使得g(Y)=g(Wx)的信息熵最大的变换W，即有Y=s。
我的问题是，
1. 这个概率密度分布函数怎么假定？在实际信号处理中怎么给出？
2. 如果我观测到信号呈高斯分布，取g'为高斯分布，那么ICA和PCA得到的结果会相同吗？

2.解析

不管是PCA还是ICA，都不需要对源信号的分布做具体的假设；如果观察到的信号为高斯，那么源信号也为高斯，此时PCA和ICA等价。下面稍作展开。

假设观察到的信号是n维随机变量主成分分析（PCA）和独立成分分析（ICA）的目的都是找到一个方向，即一个n维向量使得线性组合的某种特征最大化。

2.1主成分分析 PCA

PCA