EM算法

EM算法

首先举一个含有隐变量的例子

有三枚硬币A,B,C,首先抛A硬币，如果A正面朝上则抛B，如果A 反面朝上则抛C，我们只记录B,C硬币的结果。这个过程重复N次得到观测到的结果$Y=\{y_1,y_2,…,y_N\}$,现在要求计算出A，B，C正面朝上的概率分别是多少。

我们设每次抛硬币过程中，A硬币的结果为Z。因为Z是无法观测到的，我们称它为隐变量。

记$\theta$={P(A),P(B),P(C)},表示模型的参数，最大似然概率为

$$L(\theta)=\log p(Y|\theta)=\log\sum_{Z}p(Y,Z|\theta)$$
由于存在隐变量，无法直接采用最大似然估计算出硬币出现正面的概率。

假设第i步求出$\theta^{(i)}$,那么下一步求出的$\theta$要满足 $L(\theta) > L(\theta^{(i)})$,只有这样才有可能求出最优解

$$\begin{eqnarray} L(\theta) - L(\theta^{(i)}) &&= \log \sum_{Z}p(Y,Z|\theta) - \log p(Y|\theta^{(i)}) \\ &&=log \sum_{Z} \frac{p(Y,Z|\theta)}{p(Y|\theta^{(i)})} \\ &&= log \sum_{Z}p(Z|Y,\theta^{(i)}) \frac{p(Y,Z|\theta)}{p(Z|Y,\theta^{(i)}){p(Y|\theta^{(i)})}} \\ && \geq \sum_{Z}p(Z|Y,\theta^{(i)}) \log \frac{p(Y,Z|\theta)}{p(Z|Y,\theta^{(i)}){p(Y|\theta^{(i)})}} \\ \end{eqnarray}$$
上式的不等号可由琴森不等式得到，对于凸函数f(x)可以得到如下不等式
$$f(\sum_{i=1}^N \lambda_i x_i) \geq \sum_{i=1}^N \lambda_i f(x_i)$$
其中 $\sum_{i=1}^N \lambda_i =1$

所以

$$L(\theta) \geq L(\theta^{(i)}) +\sum_{Z}p(Z|Y,\theta^{(i)}) \log \frac{p(Y,Z|\theta)}{p(Z|Y,\theta^{(i)}){p(Y|\theta^{(i)})}}$$
想要使 $L(\theta)$最大，那么其下限必须要取最大，问题转化为最大化似然函数的下限。
$$\begin{eqnarray} \theta &&= \arg \max_{\theta} (L(\theta^{(i)}) +\sum_{Z}p(Z|Y,\theta^{(i)}) \log \frac{p(Y,Z|\theta)}{p(Z|Y,\theta^{(i)}){p(Y|\theta^{(i)})}}) \\ && = \arg \max_{\theta} \sum_{Z}p(Z|Y,\theta^{(i)}) \log p(Y,Z|\theta) \end{eqnarray}$$
记
$$Q(\theta , \theta^{(i)}) = \sum_{Z}p(Z|Y,\theta^{(i)}) \log p(Y,Z|\theta)$$
所以期望最大算法可以表示为：

初始化$\theta^{(0)}$ （对初值敏感）

1. E步

   求出期望$Q(\theta , \theta^{(i)}) = \sum_{Z}p(Z|Y,\theta^{(i)}) \log p(Y,Z|\theta)$

2. M步

   最大化Q函数，求出$\theta^{(i+1)}$

上述两步不但迭代，直到$\theta$ 发生很小的变化为止。

从上面的推到过程中可以看到，我们是在求Q函数的最大化，求出来的值只是似然函数的下限，因此EM算法找的是局部最优解