机器学习系列——7、EM算法

EM算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计。

先看一个EM算法的例子。

三硬币模型

3枚硬币，记作A, B, C。这些硬币正面出现的概率分别为$\pi ,p,q$。进行如下实验：先扔硬币A，若为正面则接着扔硬币B，反面则扔硬币C。然后按此规则扔选出的硬币，出现正面记作1，反面记作0；独立重复n次试验（这里n=10），观测结果：$1,1,0,1,0,0,1,0,1,1$。
假设只能观测到掷硬币的结果，不能观测掷硬币的过程。问如何估计三硬币正面出现的概率，即三硬币模型的参数。