EM 算法抛硬币实例解析《统计学习方法》

问题描述

最大期望算法(Expectation-Maximization Algorithm, EM)，或 Dempster-Laird-Rubin 算法，是一类通过迭代进行极大似然估计的优化算法，通常用于对包含隐变量(latent variable)或缺失数据(incomplete-data)的概率模型进行参数估计。来自百度百科。

具体就不说了，看了李航《统计学习方法》讲的 EM 算法，讲得很棒，但对抛硬币的例子迷茫了好久，书中只给了答案，没有具体的推导过程。然而，看完 “9.1.2 EM算法的导出” 后，我依然不能写出迭代更新公式是怎么来的？ $${\pi }^{(i+1)}=\frac{1}{n}\sum _{j=1}^n{\mu }_j^{(i+1)}$$ $$p^{(i+1)}=\frac{{\sum }_{j=1}^n{\mu }_j^{(i+1)}{y}_j}{{\sum }_{j=1}^n{\mu }_j^{(i+1)}}$$ $$q^{(i+1)}=\frac{{\sum }_{j=1}^n(1-{\mu }_j^{(i+1)})y_j}{{\sum }_{j=1}^n(1-{\mu }_j^{(i+1)})}$$ 其中 $${\mu }^{(i+1)}=\frac{{\pi }^{(i)}(p^{(i)}{)}^{(y_j)}(1-p^{(i)}{)}^{(1-y_j)}}{{\pi }^{(i)}(p^{(i)}{)}^{(y_j)}(1-p^{(i)}{)}^{(1-y_j)}+(1-{\pi }^{(i)})(q^{(i)}{)}^{(y_j)}(1-q^{(i)}{)}^{(1-y_j)}}$$。

“9.1.2 EM算法的导出” 一节对 EM 算法的由来讲得很详细。后来，琢磨抛硬币的计算时，却陷入苦恼，“你写不出来，就是没理解！” 先写出书中的公式 (9.17)：$${\theta }^{(i+1)}=arg\underset{\theta }{\max }\left(\sum _{Z}P(Z|Y,{\theta }^{(i)})log\left[P(Y|Z,\theta )P(Z|\theta )\right]\right)$$ 我觉得写到这就好了，更方便理解。

主要是两个问题：（1）${\mu }_j^{(i+1)}$ 是啥？（2）长长的 $n$ 次抛币，怎么表达其似然公式？

先看 (1)，之所以不知 ${\mu }_j^{(i+1)}$，是因为没理解公式中 $P(Z|Y,{\theta }^{(i)})$ 是啥，它就是：已知了一个临时模型 ${\theta }^{(i)}$ 和观察 $Y$，求隐变量的条件(后验)概率分布，那对应到抛硬币的隐变量 “A 朝上” 的后验概率 ${\mu }_j^{(i+1)}$，“A 朝下” 为 $1-{\mu }_j^{(i+1)}$。

所以，现在代入 (9.17)，就是 $${\theta }^{(i+1)}=arg\underset{\theta }{\max }\left({\mu }_j^{(i+1)}log[\pi p^{(y_j)}(1-p{)}^{(1-y_j)}]+(1-{\mu }_j^{(i+1)})log[(1-\pi )q^{(y_j)}(1-q{)}^{(1-y_j)}]\right)$$ 但是，这里面带着 $j$，说明这只是一次实验，那 $n$ 次实验的表达式如何写？

现在看第二个问题 (2)。可以从两个角度去理解：公式角度和直观角度。
公式角度：（9.17）是关于一次实验的，现在重写它 $$\begin{array}{rl}{\theta }^{(i+1)}& =arg\underset{\theta }{\max }\left(\sum _{Z}P(Z|Y,{\theta }^{(i)})log\left[P(Y|Z,\theta )P(Z|\theta )\right]\right)\\ & =arg\underset{\theta }{\max }\left(\sum _{Z}log{\left[P(Y|Z,\theta )P(Z|\theta )\right]}^{P(Z|Y,{\theta }^{(i)})}\right)\\ & =arg\underset{\theta }{\max }\left(\prod _Z{\left[P(Y|Z,\theta )P(Z|\theta )\right]}^{P(Z|Y,{\theta }^{(i)})}\right)\end{array}$$ 由于各次实验没有关联，故多次实验的最大化似然可以累乘：$$\begin{array}{r}{\theta }^{(i+1)}=arg\underset{\theta }{\max }\left(\prod _{j=1}^n\prod _Z{\left[P(Y|Z,\theta )P(Z|\theta )\right]}^{P(Z|Y,{\theta }^{(i)})}\right)\end{array}$$ 反映到最终的公式上就是外面套了个累加 ${\sum }_{j=1}^n$，再求最大化即可。

直观角度：各次实验独立，那么我们只需要将所有的实验都最大化，合起来也是累加。