独立成分分析(ICA)旨在从观测变量中分离出彼此独立的元素。模型中，观测变量x通过矩阵A与独立元素s相关联。由于仅凭x无法直接求解A，需要建立概率密度模型并利用极大似然估计。通常假设s的元素遵循特定分布，如F(sj)=1+exp(-sj^1)，以此构建p(s)和p(x)的表达式，并通过对数似然函数求解矩阵W。
1. 独立成分分析(Independent Components Analysis)
-
1.1 概念
独立成分分析是从观测变量中分离出独立元素，观测变量的维度(数目)要和独立元素维度(数目)相同。模型表示如下
x = A s （ x , s ∈ R n ， A ∈ R n ∗ n ） x 为 观 测 变 量 , s 中 各 个 分 量 彼 此 独 立 s = A − 1 x = W x x = As （x,s \in R^n， A\in R^{n*n}）\\ x为观测变量, s中各个分量彼此独立 \\ s = A^{-1}x = Wx x=As（x,s∈Rn，A∈Rn∗n）x为观测变量,s中各个分量彼此独立s=A−1x=Wx -
1.2 如何求解模型
已知的变量只有 x x x，需要根据 x x x值推导出矩阵 A A A。如果不增加其它设定，是无法仅根据 x x x求解出矩阵A，因此需要增加其它条件，来建立合适的 p ( x ) p(x) p(x)概率密度模型，然后再通过极大似然估计求解矩阵 A A A。
先说因子分析的几个限制
（1）无法区分各个独立成分的顺序
（2）不能恢复独立成分的大小( 2 A . 1 2 s = A s 2A.\frac{1}{2}s=As 2A.2
最低0.47元/天 解锁文章
扫一扫
6882
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
