《统计学习方法》笔记九 EM算法及其推广

本系列笔记内容参考来源为李航《统计学习方法》

EM算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计或极大后验概率估计。迭代由

（1）E步：求期望

（2）M步：求极大

组成，称为期望极大算法。

EM算法引入

 

EM算法是通过不断求解下界的极大化逼近求解对数似然函数极大化的算法。

EM在监督学习中的应用

收敛性

EM算法在高斯混合模型学习中的应用

高斯混合模型

高斯混合模型参数估计的EM算法

EM算法的推广

EM算法还可解释为F函数的极大-极大算法，基于这个解释有若干变形与推广。

首先引入F函数的概念

 

 

 

转载于:https://www.cnblogs.com/wwf828/p/9925963.html