基于负熵(fastICA)的盲源分离

根据信息论可知，等方差分布中高斯分布的熵最大。而根据概率论的中心极限定理可知，若一随机变量由许多相互独立的随机变量组成，只要具有有限的均值与方差，则无论其为何种分布，随机变量较更接近高斯分布。反之，对一个混合信号来说，如果完成对信号的分离，则会使得分离后的结果之间的非高斯性变大，即信号之间可看成相互独立的。故引入负熵来度量，其公式定义为

式中是与具有相同方差的高斯变量。从式子可以看出，当且仅当信号满足高斯分布时，其负熵才会为零。而不满足高斯分布是，负熵都会大于零，特别的当负熵达到最大时可以知道此时信号的熵为零，亦即可以得出此时信号之间的独立性最大。故在分离信号的时候用可用负熵来度量。详细的推导过程见李云霞的博士论文《盲信号分离算法及其应用》。
我们在看完其推导之后，往往会发现其实际编程的时候会有困难，基于此，我在这里详细讲解如何