机器学习之EM算法

　　EM算法原理：

　　EM算法一般用于无监督学习模型，因为无监督学习没有标签（即y值)，EM算法可以先给无监督学习估计一个隐状态（即标签），有了标签，算法模型就可以转换成有监督学习，这时就可以用极大似然估计法求解出模型最优参数。其中估计隐状态流程应为EM算法的E步，后面用极大似然估计为M步。

　　EM算法（Expectation  Maximization Algoithm，最大期望参数）是一种迭代类型的算法，是一种 在概率模型中寻找参数最大似然估计或者最大后验估计的算法。

　　EM算法流程：

　　1、初始化分布参数

　　2、重复下面两个步骤直到模型收敛

　　　　E步骤，估计隐藏变量的概率分布期望函数

　　　　M步骤，根据期望函数重新估计分布参数

 

 

图解EM算法原理：

　　首先给定一个初始值∂^0，这时可以通过极大似然函数求解出一个新的∂^1，再把∂^1作为新的极大似然函数的参数，求得∂^2，然后不断的迭代，最后生成∂不会变，即迭代终止。求得最终解

 

转载于:https://www.cnblogs.com/baoxuhong/p/10276830.html