共同点
三者都是一组正态分布的加权和或积分。
区别
- 高斯混合: K K K个不同均值,不同方差,高斯分布加权和
- t分布:相同均值,不同方差,正态分布积分。鲁棒性强于高斯混合
- 因子分析模型:不同均值,相同对角协方差,正态分布积分。是一个高斯线性模型
组合
- 混合模型+因子分析:混合因子分析(MoFA)。即因子分析的加权和形式
- 混合模型+t分布:混合t分布(或鲁棒混合模型)
- t分布+因子分析:鲁棒子空间模型。该模型易受异常值影响
- 混合模型+t分布+因子分析:混合鲁棒子空间模型
- 优势有三:多峰、鲁棒、充分利用参数
- 密度函数为
P ( x ) = ∑ k = 1 K λ k S t ( x ∣ μ k , Φ k Φ k T + Σ k , ν k ) P(x) = \sum_{k=1}^K \lambda_k St(x|\bm \mu_k, \bm\Phi_k \bm\Phi_k^T+ \bm\Sigma_k, \nu_k) P(x)=k=1∑KλkSt(x∣μk,ΦkΦkT+Σk,νk)
其中, μ k , Φ k , Σ k \bm \mu_k, \bm \Phi_k, \bm \Sigma_k μk,Φk,Σk表示第 k k k个分量的均值、因子和对角协方差矩阵, λ k \lambda_k λk表示第 k k k个分量的权重, ν k \nu_k νk表示第 k k k个分量的自由度
t分布模型博客参考
因子分析模型博客参考 - 该算法可用EM学习
参考文献:
[1] Prince S J D. Computer vision: models, learning, and inference[M]. Cambridge University Press, 2012.