EM 算法简介, 含有一个例子的详细推导.

UTF8gbsn

今天我们讲一个算法, 这个算法就是EM(Expectation Maximization
Algorithm)算法. 这个算法是为了估计概率模型参数$\theta$的.
到这里大家肯定想到了如果我们知道观察值$X$.
就可以使用MLE(最大似然估计)来估计参数$\theta$了啊. 为什么还需要EM算法呢?
的确如果问题是已知观察值$X$, 求$\theta$,那么我们的确只需要MLE就可以了.

$$\theta =\arg \underset{\theta }{\max }L(\theta ;X)$$

那么EM的存在是为了什么呢? 其实这是为了解决隐变量问题.
我们先来提出一个问题. 如果我们有A,B,C三个硬币, 我们先投掷A, 并观察A的值,
如果正面,则选择投掷B, 并纪录输出到最终观察序列里面,
如果A是反面,则投掷C,并纪录观察值到最终输出序列里面.
我们把A的输出记做随机变量Z, 而最后来自B或C的输出, 也就是我们的观察只为X.
可以得到类似于下面的这样一张表.

A(Z)	1	0	1	0
B	1	-	0	-
C	-	0	-	1
X	1	0	0	1

由此可见, Z的值,我们是观测不到的, 但是我们能够观测到X. 所以在这种情况下,
我们需要去估计参数$\theta$. 这个时候就该EM算法登场了. 那么问题又来了,
这里为什么就不能使用MLE呢? 答案是肯定可以的, 只是你的估计会有偏差,
这里即然我们知道的整个数据产生的过程中有隐变量. 这本身就是一种信息,
如果你不好好利用好这个信息设置更为符合实际的参数$\theta$,
那么估计出来的实际概率模型出现大的偏差就不奇怪了.

利用好信息

我们很直观的想法是使用全概率公式来求$\theta$.

$$L(\theta ;X)=p(X|\theta )=\int p(X,Z|\theta )dZ$$

可是, 这个公式有一个缺点, 就是在实际计算过程中基本不可能.
因为要想求出所有$Z,X$的组合在序列数据里面非常庞大.我们无法穷举所有的组合结果.于是这个式子变得无法求解.
这样就有了EM的用武之地. 我们来看看EM的具体步骤.

1. 随机初始化参数${\theta }^0$

2. E步:计算函数
   $$Q(\theta |{\theta }^t)=E_{Z\sim X,{\theta }^t}[L(\theta ;X,Z)]$$

3. M步:求${\theta }^{t+1}$
   $${\theta }^{t+1}=\arg \underset{\theta }{\max }Q(\theta |{\theta }^t)$$

4. 算法收敛, 得$\theta$

以上, 就是EM算法的标准流程. 那么EM算法为什么可以求$\theta$,
而且是否收敛. 这两个问题暂时不讲. 后面专门写文章来讲这个两个问题.
我们先来看看前面介绍的投掷硬币的列子.

例子

我们现在假设A,B,C硬币的参数位$\pi ,p,q$. 按照EM算法的第一步,
先设置$\pi =0.5,p=0.5,q=0.5$. 然后进行E步

1. E step: 假设我们有了${\theta }^t,x_i$,
   我们要计算它来自于B的概率$p(z=1|x_i,{\theta }^t)$. $$\begin{array}{rl}P(z=1|x_i,{\theta }^t)& =\frac{{\pi }^t(p^t{)}^{x_i}(1-p^t{)}^{1-x_i}}{{\pi }^t(p^t{)}^{x_i}(1-p^t{)}^{1-x_i}+(1-\pi {)}^t(q^t{)}^{x_i}(1-q^t{)}^{1-x_i}}\\ P(z=0|x_i,{\theta }^t)& =1-p(z=1|x_i,{\theta }^t)\end{array}$$ 注意这上面的公式在已知$X$, 和${\theta }^t$的情况下,
   都是可以计算的. 计算结果就是一个确定的数值.

   另外,我们先来看看, $P(x_i|\theta )$的公式 $$\begin{array}{rl}p(x_i|\theta )& =\pi p^{x_i}(1-p{)}^{1-x_i}+(1-\pi )q^{x_i}(1-q{)}^{1-x_i}\\ p(x_i,z_i|\theta )& ={\pi }^{z_i}(1-\pi {)}^{1-z_i}{p}^{z_i{x}_i}(1-p{)}^{z_i(1-x_i)}{q}^{(1-z_i)x_i}(1-q{)}^{(1-z_i)(1-x_i)}\end{array}$$ 有了这两个东西, 我们在看如何计算$Q(\theta |{\theta }^t)$
   $$\begin{array}{rl}Q(\theta |{\theta }^t)& =E_{Z\sim X,{\theta }^t}[L(\theta ;X,Z)]\\ & =\sum _{Z}ln(X,Z_i|\theta )P(Z_i|X,{\theta }^t)\\ & =\sum _Z\sum _{X}lnP(x_i,z_i|\theta )P(z_i|x_i,{\theta }^t)\\ & =\sum _Z\sum _{X}p(z_i|x_i,{\theta }^t)[z_{i}ln\pi +(1-z_i)ln(1-\pi )+z_i{x}_{i}lnp+z_i(1-x_i)ln(1-p)+(1-z_i)x_{i}lnq+(1-z_i)(1-x_i)ln(1-q)]\end{array}$$

   首先对上面最后一个式子对$\pi$求导可得
   $$\sum _Z\sum _{X}p(z_i|x_i,{\theta }^t)[z_i\frac{1}{\pi }-(1-z_i)\frac{1}{1-\pi }]=0$$
   求出$\pi$可得
   $${\pi }^{t+1}=\frac{1}{N}\sum _{i=1}^{N}p(z=1|x_i,{\theta }^t)$$ 设,
   $p(z=1|x_i,{\theta }^t)={\mu }_i$

2. 同理可以计算
   $$p^{(t+1)}=\frac{{\sum }_{j=1}^n{\mu }_j^{(t+1)}{x}_j}{{\sum }_{j=1}^n{\mu }_j^{(t+1)}}$$
   $$q^{(t+1)}=\frac{{\sum }_{j=1}^n\left(1-{\mu }_j^{(t+1)}\right)x_j}{{\sum }_{j=1}^n\left(1-{\mu }_j^{(t+1)}\right)}$$

剩下的就是一个简单的迭代了. 至此我们就初步的讲完了EM算法,
以及它的一个例子了. 注意EM算法只是一个指导性的算法.具体到某个具体问题,
还需要不同的推导来求概率模型参数. 通过上面的例子可见,
模型的推导有点儿繁琐, 所以请各位注意反复咀嚼这个例子. 未来有时间,
我们会写一个EM算法的另外一个例子,
高斯混合模型.它也是通过EM算法来求模型参数的.高斯混合模型的通用性要就要高很多.