em算法是针对有隐藏变量的case, 然后先估算隐藏变量的概率分布,再估算模型参数, 然后一个不断迭代的过程
http://blog.csdn.net/zouxy09/article/details/8537620
先看从最大似然估计到em算法。 没有隐藏变量就是极大似然估计,有隐藏变量就是用em算法求解。
jensen不等式的引入; 凹函数凸函数
推导证明见 http://www.cnblogs.com/jerrylead/archive/2011/04/06/2006936.html
举例子说明计算过程 见http://wenku.baidu.com/link?url=cD0NYNVFuIHij7eLK3-E0M0oWYwDDbzkEst56WRiHsSpkIlbmuRUf-pzPC1fUpP7sQRRCBHvkoup-pHvCu5Yo_vpDoNOLcbxZXS-jAHAEyy