ICA独立成分分析个人理解

参考https://blog.csdn.net/u014485485/article/details/78452820

隐含变量模型

 x：观测信号，A：混合矩阵，s：独立成分、源信号、隐含变量

[模型假设]1， si之间是统计独立的(s1的取值对s2的取值没有提供信息，互不干连；不相关指不存在线性关系，不排除存在其他关系)；2， si服从非高斯分布； 3， 混合矩阵A是方阵（IC数等于观测混合信号个数）进而假设其可逆，简化运算

D(x)=E[x-E(x)]2

多个独立的自由变量的和近似服从高斯分布&源信号是不服从高斯分布的=>利用观测信号分解量的非高斯性最大化来求源信号的近似，即IC

不适用于高斯分布是因为寻找IC正是利用了非高斯性的最大化

非高斯性的度量：①峰度：高斯分布的峰度是个定值，因此可以用峰度偏离定值的程度来衡量非高斯性，用梯度下降等方法。②负熵（同协方差矩阵的高斯分布的熵与变量真实分布的熵的差值）：服从高斯分布的随机变量熵最大，负熵总是非负的。③互信息量 ④最大似然法做估计（等价于互信息量）

白化：协方差矩阵——特征分解——特征值取绝对值——特征值^(-1/2)*特征向量得到新的混合矩阵。见https://blog.csdn.net/shenziheng1/article/details/53637907