EM算法

应用

EM算法有很多的应用，最广泛的就是GMM混合高斯模型、聚类、HMM等等

EM算法

Jensen不等式：
设f是定义域为实数的函数，如果对于所有的实数x。如果对于所有的实数x，f(x)的二次导数大于等于0，那么f是凸函数。当x是向量时，如果其hessian矩阵H是半正定的，那么f是凸函数。如果只大于0，不等于0，那么称f是严格凸函数。

Jensen不等式表述如下：

如果f是凸函数，X是随机变量，那么：E[f(X)]>=f(E[X])，特别地，如果f是严格凸函数，当且仅当X是常量时，上式取等号。