数学建模 之 EM算法

EM算法就是求隐变量的。例如马尔科夫链的隐变量。

我们可以先猜想隐含数据（EM算法的E步），
接着基于观察数据和猜测的隐含数据一起来极大化对数似然，求解我们的模型参数（EM算法的M步)。

我们基于当前得到的模型参数，继续猜测隐含数据（EM算法的E步），然后继续极大化对数似然，求解我们的模型参数（EM算法的M步)。以此类推，不断的迭代下去，直到模型分布参数基本无变化，算法收敛，找到合适的模型参数。

例如身高统计，男女不知，就这么一串数字。可以先确定男生的分布为N(175, 5)(必须知道分布，就像极大似然一样，都要先知道分布才行)，女生为N(163, 5)(这里就体现了初始参数是非常重要的，初始值设不对会有严重错误，并且每个初始值确实有不同才行)。

然后先根据这个默认分布求出每个人是男是女。
然后用分好的男女数据分别训练男女概率分布，更新参数。
就这样循环J次，直到不再发生变动(收敛)，完成，这样不仅想求的参数也求出来了，每个人是男是女也求出来了(隐变量)。

例如求硬币的模型，就一串正反，可以先确定每个硬币的模型，然后判断这个正反是哪个硬币掷出来的(实际上，这样就没道理了，数据应该是一共n组，每组掷m次)，这样才有意义，这样求出每组是哪个硬币掷出来的。
然后根据所得结果分别最大似然对应的模型，然后用修正的模型再预测硬币组，然后再分别最大似然，直到收敛。

但是里面有杰森不等式什么的。公式是很难推导的。