本文详细介绍了EM算法，一种用于含有隐变量的概率模型参数的极大似然估计的迭代算法。通过E步（期望）和M步（最大化）两个步骤，逐步逼近最优解。内容包括无隐变量情况下的极大似然估计和含隐变量情况下的EM算法迭代计算过程，以及算法的收敛性和初值选择的影响。并以硬币投掷为例，展示了EM算法在非监督学习中的应用。
1.EM算法详解
EM算法：Expectation Maximization Algorithm
EM算法用于含有隐变量(hidden variable)的概率模型参数的极大似然估计，又称极大后验概率估计。
EM算法是一种迭代算法，每次迭代由两步组成：
E步-求期望(Expectation)；
M步-求极大(Maximization)；
所以这一算法称为期望-极大算法(Expectation Maximization Algorithm)，简称EM算法
关于EM算法的数学基础知识，请详见前面博客：【机器学习】【EM算法】数学基础:(半)正(负)定矩阵+(严格)凹(凸)函数+(最大)似然函数+Hessian矩阵+Jensen不等式
最低0.47元/天 解锁文章
扫一扫
5万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
