详解十大经典机器学习算法——EM算法

本文始发于个人公众号：TechFlow，原创不易，求个关注

今天是机器学习专题的第14篇文章，我们来聊聊大名鼎鼎的EM算法。

EM算法的英文全称是Expectation-maximization algorithm，即最大期望算法，或者是期望最大化算法。EM算法号称是十大机器学习算法之一，听这个名头就知道它非同凡响。我看过许多博客和资料，但是少有资料能够将这个算法的来龙去脉以及推导的细节全部都讲清楚，所以我今天博览各家所长，试着尽可能地将它讲得清楚明白。

从本质上来说EM算法是最大似然估计方法的进阶版，还记得最大似然估计吗，我们之前介绍贝叶斯模型的文章当中有提到过，来简单复习一下。

最大似然估计

假设当下我们有一枚硬币，我们想知道这枚硬币抛出去之后正面朝上的概率是多少，于是我们抛了10次硬币做了一个实验。发现其中正面朝上的次数是5次，反面朝上的次数也是5次。所以我们认为硬币每次正面朝上的概率是50%。

从表面上来看，这个结论非常正常，理所应当。但我们仔细分析会发现这是有问题的，问题在于我们做出来的实验结果和实验参数之间不是强耦合的。也就是说如果硬币被人做过手脚，它正面朝上的概率是60%，我们抛掷10次，也有可能得到5次正面5次反面的概率。同理，如果正面朝上的概率是70%，我们也有一定的概率可以得到5次正面5次反面的结果。现在我们得到了这样的结果，怎么能说明就一定是50%朝上的概率导致的呢？

那我们应该怎么办呢，继续做实验吗？

显然不管我们做多少次实验都不能从根本上解决这个问题，既然参数影响的是出现结果的概率，我们还是应该回到这个角度，从概率上下手。我们知道，抛硬币是一个二项分布的事件，我们假设抛掷硬币正面朝上的概率是p，那么反面朝上的概率就是1-p。于是我们可以带入二项分布的公式，算出10次抛掷之后，5次是正面结果在当前p参数下出现的概率是多少。

于是，我们可以得到这样一条曲线：

也就是正面朝上的概率是0.5的时候，10次抛掷出现5次正面的概率最大。我们把正面朝上的概率看成是实验当中的参数，我们把似然看成是概率。那么最大似然估计，其实就是指的是使得当前实验结果出现概率最大的参数。

也就是说我们通过实验结果和概率，找出最有可能导致这个结果的原因或者说参数，这个就叫做最大似然估计。

原理理解了，解法也就顺水推舟了。

首先，我们需要用函数将实验结果出现的概率表示出来。这个函数的学名叫做似然函数(likelihood function)。

有了函数之后，我们需要对函数进行化简，比如一些多次进行的实验，需要对似然函数求对数，将累乘计算转化成累加运算等。

最后，我们对化简完的似然函数进行求导，令导数为0，找出极值点处参数的值，就是我们通过最大似然估计方法找到的最佳参数。

引入隐变量

以上只是最大似然估计的基础用法，如果我们把问题稍微变化一下，引入多一个变量，会发生什么情况呢？

我们来看一个经典的例子，同样是抛硬币，但是我们将题目的条件稍作修改，那么整个问题就会完全不同。

这个例子来源于阐述EM算法的经典论文：《Do, C. B., & Batzoglou, S. (2008). What is the expectation maximization algorithm?. Nature biotechnology, 26(8), 897.》在这个例子当中，我们有A和B两枚硬币，其中A硬币正面朝上的概率是0.5，B硬币正面朝上的概率是0.4，我们随机从两枚硬币当中选取一枚进行实验。

每次实验我们一共进行5次，记录下正反面的个数。经过5轮实验之后，我们得到的结果如下：

由于我们知道每一轮当中选择了什么硬币进行实验，所以整个过程依然非常顺利。如果我们去掉硬币的信息，假设我们并不知道每一轮当中选择了什么硬币进行实验，我们又该怎么求A和B向上的概率呢？

在新的实验当中，我们不知道硬币选择的情况，也就是说实验当中隐藏了一个我们无法得知的变量。这种变量称为隐变量，隐变量的存在干扰了参数和实验结果的直接联系。比如在这个问题当中，我们想要知道每种硬币正面向上的概率，我们要计算这个概率首先要知道每一轮用了哪一种硬币。如果我们想要推算每一次实验用了哪一种硬币又需要先知道硬币正面朝上的概率。也就是说这两个变量互相纠缠、互相依赖，我们已知的信息太少，无法直接解开。就好像先有鸡还是先有蛋的问题，陷入死循环。

EM算法正是为了解决这个问题诞生的。

EM算法

前面我们说了，隐变量和我们想要求的参数互相纠缠，形成了一个死循环，但是我们已有的信息不足以让我们解开这个纠缠。既然无法解开，那么我们就不解了，我们直接暴力破解。

是的，你没有看错，EM算法的本质非常简单粗暴：既然我们无法求解隐变量，我们就不求了，我们直接假设一个初始值代入计算，有了结果之后再进行迭代。

比如我们假设p1是硬币A正面向上的概率，p2是硬币B正面向上的概率。原本我们是希望通过最大似然估计来求解使得结果出现的p1和p2，现在我们直接假设，进行迭代：

我们假设p1=0.7，p2=0.3，这个值是我们随便假设的，你可以任意假设其他的值。我们把p1，p2代入上面的结果当中进行计算。

比如第一轮当中，出现的结果是3正2反，如果是A硬币，出现这样结果的概率根据二项分布很容易计算：$0.7^3\ast 0.3^2=0.03087$，同理，我们可以算出硬币B的概率是0.01323。我们用同样的方法算出所有的概率：

既然我们概率有了，显然我们可以做预测了，根据这个概率表猜测每一轮究竟用了哪一个硬币。

根据最大似然的法则，我们可以得出每一轮用的硬币是：

第一轮是硬币A

第二轮是硬币B

第三轮是硬币B

第四轮是硬币A

第五轮是硬币B

猜测出硬币的分布之后有什么用呢？很简单，我们可以用猜测的结果重新估计p1和p2的值。

比如说硬币A出现在第一轮和第四轮当中，这两轮一共做了10次实验，其中6正4反，那么我们可以修正p1的值为0.6。硬币B出现在第2，3，5轮当中，这三轮当中做了15次实验，一共5正10反，所以正面向上的概率是1/3。可以发现，经过了一次迭代之后，我们的结果向真实值逼近了一些。

虽然结果还可以，但这种方法依然比较粗糙，我们还有更好的办法。

例子改进

我们来改进一下上面这个例子的计算过程，主要的问题在于我们在根据假设出来的概率计算分布之后，我们直接通过似然估计去猜测当前轮次抛了哪一枚硬币。这样做当然是可以的，但感觉不够严谨，因为我们直接猜测有些武断，并不一定准确。

那有没有更好的办法？

其实是有的，相比于直接猜测某个轮次当中选择了哪一枚硬币，我们可以用选择硬币的概率来代入来计算期望，这样的效果会更好，比如根据刚才的计算结果，我们可以算出每个轮次当中选择硬币的概率：

我们在用这个概率带入实验结果当中计算期望，可以得到p1的期望表格：

$$p_1=\frac{2.1+0.6+0.0729+2.1+0.6}{2.7+2.7+0.292+2.7+2.7}=0.490$$

同样的方法，我们可以算计出新的p2的期望表格：

代入，我们可以得到新的p2是0.377。

把估计结果改成使用概率代入迭代之后，我们的估计的结果精准了许多，也就是说我们收敛的速度更快了。我们重复以上的过程，直到收敛，当收敛的时候，我们就能获得极大似然估计最大时候p1和p2的取值。这也是整个EM算法的精髓。

我们整理一下EM算法的运作过程，首先我们先随机出来一个参数的值代入实验结果，计算出隐变量的概率分布或者是取值，我们再通过隐变量迭代我们的参数值，如此重复迭代，直到收敛。我们进一步抽象，可以把它主要总结成两个步骤，分别是E步骤和M步骤：

在E步骤当中，我们根据假设出来的参数值计算出未知变量的期望估计，应用在隐变量上
在M步骤当中，我们根据隐变量的估计值，再计算当前参数的极大似然估计

根据这个理论，我们还可以对上面的过程进行改进。

这个方法到这里就介绍完了，我想大家也应该都能理解，但是我们还没有从数学上去证明，为什么这样操作行得通呢？为什么这个方法一定会收敛，我们收敛的值就是最优解呢？所以我们还需要通过数学来证明一下。

数学证明

假设我们有一个样本集X它是由m个样本构成的，可以写成 X = { x 1 , x 2 , ⋯ x m } X=\{x_1, x_2, \cdots x_m\} X={ x1​,x2​,⋯xm​}，对于这m个样本当中，它们都有一个隐变量z是未知的。并且还有一个参数$\theta$，也就是我们希望通过极大似然估计求解的参数。由于当中包含隐变量z，所以我们没办法直接对概率函数求导求极值进行计算。

我们先写出含有隐变量的概率函数：

$$P_i=P(x_i,z_i;\theta )$$

我们希望找到对于全局最优的参数$\theta$，所以我们希望找到使得${\prod }_{i=1}^m{P}_i$最大，我们对这个式子求log，可以得到：

$$\sum _{i=1}^m\log P_i=\sum _{i=1}^m\log \sum _{z_i}P(x_i,z_i;\theta )$$

我们假设隐变量z的概率分布是$Q_i$，所以上式可以变形为：

∑ i = 1 m log ⁡ P i = ∑ i = 1 m log ⁡ ∑ z i Q i ( z i ) P ( x i , z i ; θ ) Q i ( z i )