本文深入探讨了EM（期望最大化）算法，特别是用于估计混合高斯模型（GMM）参数的情况。通过Jensen不等式解释了EM算法的数学原理，并详细介绍了算法的迭代过程，包括如何处理对数似然函数中的加性和隐随机变量的问题。文章还阐述了如何利用Jensen不等式优化求解过程，以达到参数估计的局部最大值。
Jensen不等式
- 若f是凸函数：(以离散的角度来看，连续的同理)
f ( θ x + ( 1 − θ ) y ≤ θ f ( x ) + ( 1 − θ ) f ( y ) f(\theta x +(1-\theta)y \leq \theta f(x) +(1-\theta)f(y) f(θx+(1−θ)y≤θf(x)+(1−θ)f(y)
其中 x 和 y 为f凸函数上任意两点， θ ∈ ( 0 , 1 ) \theta \in(0,1) θ∈(0,1) - 若 θ 1 , . . . , θ k ≥ 0 , θ 1 + . . . + θ k = 1 \theta_{1},...,\theta_{k}\geq 0,\theta_1+...+\theta_k=1 θ1,...,θk≥0,
最低0.47元/天 解锁文章
扫一扫
322
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
