统计学习方法读书笔记第九章：EM算法及其推广

统计学习方法读书笔记第九章：EM算法及其推广

EM算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计。EM算法的每次迭代由两步组成：E步，求期望（expectation）；M步，求极大（maximization）。所以这一算法称为期望极大算法，简称EM算法。

EM算法的引入

概率模型有时既含有观测变量，又含有隐变量或潜在变量。如果概率模型的变量都是观测变量，那么给定数据，可以直接用极大似然估计法，或贝叶斯估计法估计模型参数。但是，当模型含有隐变量时，就不能简单地使用这些估计方法。EM算法就是含有隐变量的概率模型参数的极大似然估计法，或极大后验概率估计法。

• EM算法
  将观测数据表示为$Y=(Y_1,Y_2,\cdots ,Y_n{)}^T$，未观测数据表示为$Z=(Z_1,Z_2,\cdots ,Z_n{)}^T$，则观测数据的似然函数为
  $$P(Y|\theta )=\sum _{Z}P(Z|\theta )P(Y|Z,\theta )\text{\hspace{1em}(1)}$$
  考虑求模型参数$\theta =(\pi ,p,q)$的极大似然估计，即
  $$\hat{\theta }=arg\underset{\theta }{\max }logP(Y|\theta )\text{\hspace{1em}(2)}$$
  这个问题没有解析解，只有通过迭代的方法求解。EM算法就是可以用于求解这个问题的一种迭代算法。
  一般地，用$Y$表示观测随机变量的数据，$Z$表示隐随机变量的数据。$Y$和$Z$连在一起称为完全数据，观测数据$Y$又称为不完全数据。假设给定观测数据$Y$，其概率分布是$P(Y|\theta )$，其中$\theta$是需要估计的模型参数，那么不完全数据$Y$的似然函数是$P(Y|\theta )$，对数似然函数$L(\theta )=logP(Y|\theta )$；假设$Y$和$Z$的联合概率分布是$P(Y,Z|\theta )$，那么完全数据的对数似然函数是$logP(Y,Z|\theta )$。
  EM算法通过迭代求$L(\theta )=logP(Y|\theta )$的极大似然估计。每次迭代包含两步：E步，求期望；M步，求极大化。下面来介绍EM算法。
  EM算法
  输入：观测变量数据$Y$，隐变量数据$Z$，联合分布$P(Y,Z|\theta )$，条件分布$P(Z|Y,\theta )$；
  输出：模型参数$\theta$。
  (1) 选择参数的初值${\theta }^{(0)}$，开始迭代；
  (2) E步：记${\theta }^{(i)}$为第$i$次迭代参数$\theta$的估计值，在第$i+1$次迭代的E步，计算
  $$\begin{array}{rl}Q(\theta ,{\theta }^{(i)})& =E_Z[logP(Y,Z|\theta )|Y,{\theta }^{(i)}]\\ & =\sum _{Z}logP(Y,Z|\theta )P(Z|Y,{\theta }^{(i)})\end{array}\text{\hspace{1em}(3)}$$
  这里，$P(Z|Y,{\theta }^{(i)})$实在给定观测数据$Y$和当前的参数估计${\theta }^{(i)}$下隐变量数据$Z$的条件概率分布；
  (3) M步：求使$Q(\theta ,{\theta }^{(i)})$极大化的$\theta$，确定第$i+1$次迭代的参数的估计值${\theta }^{(i+1)}$
  $${\theta }^{(i+1)}=arg\underset{\theta }{\max }Q(\theta ,{\theta }^{(i)})\text{\hspace{1em}(4)}$$
  (4) 重复第(2)步和第(3)步，直到收敛。
  第(2)步中的函数$Q(\theta ,{\theta }^{(i)})$是EM算法的核心，称为$Q$函数。
  定义1（Q函数） 完全数据的对数似然函数$logP(Y,Z|\theta )$关于在给定观测数据$Y$和当前参数${\theta }^{(i)}$下对未观测数据$Z$的条件概率分布$P(Z|Y,{\theta }^{(i)})$的期望称为$Q$函数，即
  $$Q(\theta ,{\theta }^{(i)})=E_Z[logP(Y,Z|\theta )|Y,{\theta }^{(i)}]\text{\hspace{1em}(5)}$$
  下面关于EM算法作几点说明：
  步骤(1) 参数的初值可以任意选择，但需注意EM算法对初值是敏感的。
  步骤(2) E步求$Q(\theta ,{\theta }^{(i)})$。$Q$函数式中$Z$是未观测数据，$Y$是观测数据。注意，$Q(\theta ,{\theta }^{(i)})$的第１个变元表示要极大化的参数，第２个变元表示参数的当前估计值。每次迭代实际在求$Q$函数及其极大。
  步骤(3) M步求Q(\theta,\theta^{(i)})的极大化，得到${\theta }^{(i+1)}$，完成一次迭代${\theta }^{(i)}\to {\theta }^{(i+1)}$。后面将证明每次迭代使似然函数增大或达到局部极值。
  步骤(4) 给出停止迭代的条件，一般是对较小的正数${\epsilon }_1$，${\epsilon }_2$，若满足
  $$||{\theta }^{(i+1)}-{\theta }^{(i)}||<{\epsilon }_1或||Q({\theta }^{(i+1)},{\theta }^{(i)})-Q({\theta }^{(i)},{\theta }^{(i)})||<{\epsilon }_2$$
  则停止迭代。
• EM算法的导出
  上面叙述了EM算法。为什么EM算法能近似实现对观测数据的极大似然估计呢？下面通过近似求解观测数据的对数似然函数的极大化问题来导出EM算法，由此可以清楚地看出EM算法的作用。
  我们面对一个含有隐含量的概率模型，目标是极大化观测数据（不完全数据）$Y$关于参数$\theta$的对数似然函数，即极大化
  $$\begin{array}{rl}L(\theta )& =logP(Y|\theta )=log\sum _{Z}P(Y,Z|\theta )\\ & =log(\sum _{Z}P(Y|Z,\theta )P(Z|\theta ))\end{array}\text{\hspace{1em}(6)}$$
  注意到这一极大化的主要困难是上式中有未观测数据并有包含和（或积分）的对数。
  事实上，EM算法是通过迭代逐步近似极大化$L(\theta )$的。假设在第$i$次迭代后$\theta$的估计值是${\theta }^{(i)}$。我们希望新估计值$\theta$能使$L(\theta )$增加，即$L(\theta )>L({\theta }^{(i)})$，并逐步达到极大值。为此，考虑两者的差：
  $$L(\theta )-L({\theta }^{(i)})=log(\sum _{Z}P(Y|Z,\theta )P(Z|\theta ))-logP(Y|{\theta }^{(i)})$$
  利用Jensen不等式得到其下界：
  $$\begin{array}{rl}L(\theta )-L({\theta }^{(i)})& =log(\sum _{Z}P(Y|Z,{\theta }^{(i)})\frac{P(Y|Z,\theta )P(Z|\theta )}{P(Y|Z,{\theta }^{(i)})})-logP(Y|{\theta }^{(i)})\\ & \ge \sum _{Z}P(Z|Y,{\theta }^{(i)})log\frac{P(Y|Z,\theta )P(Z|\theta )}{P(Z|Y,{\theta }^{(i)})}-logP(Y|{\theta }^{(i)})\\ & =\sum _{Z}P(Z|Y,{\theta }^{(i)})log\frac{P(Y|Z,\theta )P(Z|\theta )}{P(Z|Y,{\theta }^{(i)})P(Y|{\theta }^{(i)})}\end{array}$$
  令
  $$B(\theta ,{\theta }^{(i)})\widehat{=}L({\theta }^{(i)})+\sum _{Z}P(Z|Y,{\theta }^{(i)})log\frac{P(Y|Z,\theta )P(Z|\theta )}{P(Z|Y,{\theta }^{(i)})P(Y|{\theta }^{(i)})}\text{\hspace{1em}(7)}$$
  则
  $$L(\theta )\ge B(\theta ,{\theta }^{(i)})\text{\hspace{1em}(8)}$$
  即函数$B(\theta ,{\theta }^{(i)})$是$L(\theta )$的一个下界，且由上式可知，
  $$L({\theta }^{(i)})=B({\theta }^{(i)},{\theta }^{(i)})\text{\hspace{1em}(9)}$$
  因此，任何可以使$B(\theta ,{\theta }^{(i)})$增大的$\theta$，也可以使$L(\theta )$增大。为了使$L(\theta )$有尽可能大的增长，选择${\theta }^{(i+1)}$使$B(\theta ,{\theta }^{(i)})$达到极大，即
  $${\theta }^{(i+1)}=arg\underset{\theta }{\max }B(\theta ,{\theta }^{(i)})\text{\hspace{1em}(10)}$$
  现在求${\theta }^{(i+1)}$的表达式。省去对$\theta$的极大化而言是常数的项，则有
  $$\begin{array}{rl}{\theta }^{(i+1)}& =arg\underset{\theta }{\max }(L({\theta }^{(i)})+\sum _{Z}P(Z|Y,{\theta }^{(i)})log\frac{P(Y|Z,\theta )P(Z|\theta )}{P(Z|Y,{\theta }^{(i)})P(Y|{\theta }^{(i)})})\\ & =arg\underset{\theta }{\max }(\sum _{Z}P(Z|Y,{\theta }^{(i)})log(P(Y|Z,\theta )P(Z|\theta )))\\ & =arg\underset{\theta }{\max }(\sum _{Z}P(Z|Y,{\theta }^{(i)})logP(Y,Z|\theta ))\\ & =arg\underset{\theta }{\max }Q(\theta ,{\theta }^{(i)})\end{array}\text{\hspace{1em}(11)}$$
  上式等价于EM算法的一次迭代，即求$Q$函数及其极大化。$EM$算法是通过不断求解下界的极大化逼近求解对数似然函数极大化的算法。
  下图给出EM算法的直观解释。途中上方曲线为$L(\theta )$，下方曲线为$B(\theta ,{\theta }^{(i)})$。$B(\theta ,{\theta }^{(i)})$为对数似然函数$L(\theta )$的下界。同时，两个函数在点$\theta ={\theta }^{(i)}$处相等。则EM算法找到下一个点${\theta }^{(i+1)}$使函数$B(\theta ,{\theta }^{(i)})$极大化，也使函数$Q(\theta ,{\theta }^{(i)})$极大化。这时由于$L(\theta )\ge B(\theta ,{\theta }^{(i)})$，函数$B(\theta ,{\theta }^{(i)})$的增加，保证对数似然函数$L(\theta )$在每次迭代中也是增加的。EM算法在点${\theta }^{(i+1)}$重新计算$Q$函数值，进行下一次迭代。在这个过程中，对数似然函数$L(\theta )$不断增大。从图可以推断出EM算法不能保证找到全局最优解。
  
• EM算法在非监督学习中的应用
  监督学习是由训练数据 { ( x 1 , y 1 ) , ( x 2 , y 2 ) , ⋯ &ThinSpace; , ( x N , y N ) } \{(x_1,y_1),(x_2,y_2),\cdots,(x_N,y_N)\} {(x1​,y1​),(x2​,y2​),⋯,(xN​,yN​)}学习条件概率分布$P(Y|X)$或决策函数$Y=f(X)$作为模型，用于分类、回归、标注等任务。这时训练数据中的每个样本点由输入和输出对组成。
  有时训练数据只有输入没有对应的输出 { ( x 1 , ⋅ ) , ( x 2 , ⋅ ) , ⋯ &ThinSpace; , ( x N , ⋅ ) } \{(x_1,\cdot),(x_2,\cdot),\cdots,(x_N,\cdot)\} {(x1​,⋅),(x2​,⋅),⋯,(xN​,⋅)}，从这样的数据学习模型称为非监督学习问题。EM算法可以用于生成模型的非监督学习。生成模型由联合概率分布$P(X,Y)$表示，可以认为非监督学习训练数据是联合概率分布产生的数据。$X$为观测数据，$Y$为未观测数据。

EM算法的收敛性

EM算法提供一种近似计算含有隐变量概率模型的极大似然估计的方法。EM算法的最大优点是简单性和普适性。我们很自然地要问：EM算法得到的估计序列是否收敛？如果收敛，是否收敛到全局最大值或局部最大值？下面给出关于EM算法收敛性的两个定理。

• 定理１ 设$P(Y|\theta )$为观测数据的似然函数，${\theta }^{(i)}(i=1,2,\cdots )$为EM算法得到的参数估计序列，$P(Y|{\theta }^{(i)})(i=1,2,\cdots )$为对应的似然函数序列，则$P(Y|{\theta }^{(i)})$是单调递增的，即
  $$P(Y|{\theta }^{(i+1)})\ge P(Y|{\theta }^{(i)})\text{\hspace{1em}(12)}$$
  证明 由于
  $$P(Y|\theta )=\frac{P(Y,Z|\theta )}{P(Z|Y,\theta )}$$
  取对数有
  $$logP(Y|\theta )=logP(Y,Z|\theta )-logP(Z|Y,\theta )$$
  由Q函数
  $$Q(\theta ,{\theta }^{(i)})=\sum _{Z}logP(Y,Z|\theta )P(Z|Y,{\theta }^{(i)})$$
  令
  $$H(\theta ,{\theta }^{(i)})=\sum _{Z}logP(Z|Y,\theta )P(Z|Y,{\theta }^{(i)})\text{\hspace{1em}(13)}$$
  于是对数似然函数可以写成
  $$logP(Y|\theta )=Q(\theta ,{\theta }^{(i)})-H(\theta ,{\theta }^{(i)})\text{\hspace{1em}(14)}$$
  在上式中分别取$\theta$为${\theta }^{(i)}$和${\theta }^{i+1}$并相减，有
  $$\begin{array}{rl}& logP(Y|{\theta }^{(i+1)})-logP(Y|{\theta }^{(i)})\\ & =[Q({\theta }^{(i+1)},{\theta }^{(i)})-Q({\theta }^{(i)},{\theta }^{(i)})]-[H({\theta }^{(i+1)})]\end{array}\text{\hspace{1em}(15)}$$
  为证式(12)，只需证式(15)右端是非负的。式(15)右端的第１项，由于${\theta }^{(i+1)}$使$Q(\theta ,{\theta }^{(i)})$达到极大，所以有
  $$Q({\theta }^{(i+1)},{\theta }^{(i)})-Q({\theta }^{(i)},{\theta }^{(i)})\ge 0\text{\hspace{1em}(16)}$$
  其第２项，由式(13)可得：
  $$\begin{array}{rl}H({\theta }^{(i+1)},& {\theta }^{(i)})-H({\theta }^{(i)},{\theta }^{(i)})\\ & =\sum _Z\left(log\frac{P(Z|Y,{\theta }^{(i+1)})}{P(Z|Y,{\theta }^{(i)})}\right)P(Z|Y,{\theta }^{(i)})\\ & \le log(\sum _Z\frac{P(Z|Y,{\theta }^{(i+1)})}{P(Z|Y,{\theta }^{(i)})}P(Z|Y,{\theta }^{(i)}))\\ & =logP(Z|Y,{\theta }^{(i+1)})=0\end{array}\text{\hspace{1em}(17)}$$
  这里的不等号由Jensen不等式得到。
  由式(16)和式(17)即知式(15)右端是非负的。
  定理２ 设$L(\theta )=logP(Y|\theta )$为观测数据的对数似然函数，${\theta }^{(i)}(i=1,2,\cdots )$为EM算法得到的参数估计序列，$L({\theta }^{(i)})(i=1,2,\cdots )$为对应的对数似然函数序列。
  (1) 如果$P(Y|\theta )$有上界，则$L({\theta }^{(i)})=logP(Y|{\theta }^{(i)})$收敛到某一值$L^{\ast }$；
  (2) 在函数$Q(\theta ,{\theta }^{\prime })$与$L(\theta )$满足一定条件下，由EM算法得到的参数估计序列${\theta }^{(i)}$的收敛值${\theta }^{\ast }$是$L(\theta )$的稳定点。
  证明 (1)由$L(\theta )=logP(Y|{\theta }^{(i)})$的单调性及$P(Y|\theta )$的有界性立即得到。
  (2) 证明从略。
  定理２关于函数$Q(\theta ,{\theta }^{\prime })$与$L(\theta )$的条件在大多数情况下都是满足的。EM算法的收敛性包含关于对数似然函数序列$L({\theta }^{(i)})$的收敛性和关于参数估计序列${\theta }^{(i)}$的收敛性两层意思，前者并不蕴含后者。此外，定理只能保证参数估计序列收敛到对数似然函数序列的稳定点，不能保证收敛到极大值点。所以在应用中，初值的选择变得非常重要，常用的办法是选取几个不同的初值进行迭代，然后对得到的各个估计值加以比较，从中选择最好的。

EM算法在高斯混合模型学习中的应用

EM算法的一个重要应用是高斯混合模型的参数估计。高斯混合模型应用广泛，在许多情况下，EM算法是学习高斯混合模型的有效方法。

• 高斯混合模型
  定义2（高斯混合模型） 高斯混合模型是指具有如下形式的概率分布模型：
  $$P(y|\theta )=\sum _{k=1}^K{\alpha }_k\varphi (y|{\theta }_k)\text{\hspace{1em}(18)}$$
  其中，${\alpha }_k$是系数，${\alpha }_k\ge 0$，${\sum }_{k=1}^K{\alpha }_k=1$；$\varphi (y|{\theta }_k)$是高斯分布密度，${\theta }_k=({\mu }_k,{\sigma }_k^2)$，
  $$\varphi (y|{\theta }_k)=\frac{1}{\sqrt{2\pi }{\sigma }_k}\exp (-\frac{(y-{\mu }_k{)}^2}{2{\sigma }_k^2})\text{\hspace{1em}(19)}$$
  称为第$k$个分模型。
  一般混合模型可以由任意概率分布密度代替式(19)中的高斯分布密度，我们只介绍最常用的高斯混合模型。

• 高斯混合模型参数估计的EM算法
  假设观测数据$y_1,y_2,\cdots ,y_N$由高斯混合模型生成，
  $$P(y|\theta )=\sum _{k=1}^K{\alpha }_k\varphi (y|\theta )\text{\hspace{1em}(20)}$$
  其中，$\theta =({\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_K;{\theta }_1,{\theta }_2,\cdots ,{\theta }_K)$。我们用EM算法估计高斯混合模型的参数$\theta$。

1. 明确隐变量，写出完全数据的对数似然函数
   可以摄像观测数据$y_j,j=1,2,\cdots ,N$，是这样产生的：首先依概率${\alpha }_k$选择第$k$个高斯分布模型$\varphi (y|{\theta }_k)$；然后依第$k$个分模型的概率分布$\varphi (y|{\theta }_k)$生成观测数据$y_j$。这时观测数据$y_j,j=1,2,\cdots ,N$，是已知的；反映观测数据$y_j$来自第$k$个分模型的数据是未知的，$k=1,2,\cdots ,K$，以隐变量${\gamma }_{jk}$表示，定义如下：
   $$\begin{gathered} {\gamma }_{jk}=\{\begin{array}{ll}1,& 第j个观测来自第k个模型\\ 0,& 否则\end{array} \\ j=1,2,\cdots ,N;k=1,2,\cdots ,K\text{\hspace{1em}(21)} \end{gathered}$$
   ${\gamma }_{jk}$是0-1随机变量。
   有了观测数据$y_j$及未观测数据${\gamma }_{jk}$，那么完全数据是
   $$(y_j,{\gamma }_{j1},{\gamma }_{j2},\cdots ,{\gamma }_{jK}),j=1,2,\cdots ,N$$
   于是，可以写出完全数据的似然函数：
   $$\begin{array}{rl}P(y,\gamma |\theta )& =\prod _{j=1}^{N}P(y_j,{\gamma }_{j1},{\gamma }_{j2},\cdots ,{\gamma }_{jK}|\theta )\\ & =\prod _{k=1}^K\prod _{j=1}^N[{\alpha }_k\varphi (y_j|{\theta }_k){]}^{{\gamma }_{jk}}\\ & =\prod _{k=1}^K{\alpha }_k^{n_k}\prod _{j=1}^N[\varphi (y_j|{\theta }_k){]}^{{\gamma }_{jk}}\\ & =\prod _{k=1}^K{\alpha }_k^{n_k}\prod _{k=1}^N\left[\frac{1}{\sqrt{2\pi }{\sigma }_k}\exp \right(-\frac{(y_j-{\mu }_k{)}^2}{2{\sigma }_k^2}){]}^{{\gamma }_{jk}}\end{array}$$
   式中，$n_k={\sum }_{j=1}^N{\gamma }_{jk}$，${\sum }_{k=1}^K{n}_k=N$。
   那么，完全数据的对数似然函数为
   $$\log P(y,\gamma |\theta )=\sum _{k=1}^K{n}_k\log {\alpha }_k+\sum _{j=1}^N{\gamma }_{jk}[\log \left(\frac{1}{\sqrt{2\pi }}\right)-\log {\sigma }_k-\frac{1}{2{\sigma }^2}(y_j-{\mu }_k{)}^2]\text{\hspace{1em}(22)}$$
2. EM算法的E步：确定Q函数
   $$\begin{array}{rl}Q(\theta ,{\theta }^{(i)})& =E[\log P(y,\gamma |\theta )|y,{\theta }^{(i)}]\\ & =E\{\sum _{k=1}^K{n}_k\log {\alpha }_k+\sum _{j=1}^N{\gamma }_{jk}[\log \left(\frac{1}{\sqrt{2\pi }}\right)-\log {\sigma }_k-\frac{1}{2{\sigma }_k^2(y_j-{\mu }_k{)}^2}\left]\right\}\\ & =\sum _{k=1}^K\{\sum _{j=1}^N(E{\gamma }_{jk})\log {\alpha }_k+\sum _{j=1}^N(E{\gamma }_{jk})[\log \left(\frac{1}{\sqrt{2\pi }}\right)-\log {\sigma }_k-\frac{1}{2{\sigma }_k^2}(y_j-{\mu }_k{)}^2]\}\end{array}$$
   这里需要计算$E({\gamma }_{jk}|y,\theta )$，记为${\hat{\gamma }}_{jk}$。
   $$\begin{array}{rl}{\hat{\gamma }}_{jk}& =E({\gamma }_{jk}|y,\theta )=P({\gamma }_{jk}=1|y,\theta )\\ & =\frac{P({\gamma }_{jk}=1,y_j|\theta )}{{\sum }_{k=1}^{K}P({\gamma }_{jk}=1,y_j|\theta )}\\ & =\frac{P(y_j|{\gamma }_{jk}=1,\theta )P({\gamma }_{jk}=1|theta)}{{\sum }_{k=1}^{K}P(y_j|{\gamma }_{jk}=1,\theta )P({\gamma }_{jk}=1|\theta )}\\ & =\frac{{\alpha }_k\varphi (y_j|{\theta }_k)}{{\sum }_{k=1}^K{\alpha }_k\varphi (y_j|\theta )},j=1,2,\cdots ;k=1,2,\cdots ,K\end{array}$$
   ${\hat{\gamma }}_{jk}$是在当前模型参数下第$j$个观测数据来自第$k$个分模型的概率，称为分模型$k$对观测数据$y_j$的响应度。
   将${\hat{\gamma }}_{jk}=E{\gamma }_{jk}$及$n_k={\sum }_{j=1}^{N}E{\gamma }_{jk}$代入式(22)即得
   $$Q(\theta ,{\theta }^{(i)})=\sum _{k=1}^K{n}_k\log {\alpha }_k+\sum _{k=1}^N{\hat{\gamma }}_{jk}\left[\log \right(\frac{1}{\sqrt{2\pi }})-\log {\sigma }_k-\frac{1}{2{\sigma }_k^2}(y_j-{\mu }_k{)}^2]\text{\hspace{1em}(23)}$$
3. 确定EM算法的M步
   迭代的M步是求函数$Q(\theta ,{\theta }^{(i)})$对$\theta$的极大值，即求新一轮迭代的模型参数：
   $${\theta }^{(i+1)}=\arg \underset{\theta }{\max }Q(\theta ,{\theta }^{(i)})$$
   用${\hat{\mu }}_k$，${\hat{\sigma }}_k^2$及${\hat{\alpha }}_k$，$k=1,2,\cdots ,K$，表示${\theta }^{(i+1)}$的各参数。求${\hat{\mu }}_k$，${\hat{\sigma }}_k^2$只需将式(23)分别对${\mu }_k$，${\sigma }_k^2$求偏导数并令其为０，即可得到；求${\hat{\alpha }}_k$是在${\sum }_{k=1}^K{\alpha }_k=1$条件下求偏导数并令其为０得到的。结果如下：
   $${\hat{\mu }}_k=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}{y}_j}{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}},k=1,2,\cdots ,K\text{\hspace{1em}(24)}$$
   $${\hat{\sigma }}_k^2=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}(y_j-{\mu }_k{)}^2}{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}},k=1,2,\cdots ,K\text{\hspace{1em}(25)}$$
   $${\hat{\alpha }}_k=\frac{n_k}{N}=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}}{N},k=1,2,\cdots ,N\text{\hspace{1em}(26)}$$
   重复以上计算，直到对数似然函数值不再有明显的变化为止。
   现将估计高斯混合模型参数的EM算法总结如下：
   算法2（高斯混合模型参数估计的EM算法）
   输入：观测数据$y_1,y_2,\cdots ,y_N$，高斯混合模型；
   输出：高斯混合模型参数。
   (1) 取参数的初始值开始迭代
   (2) E步：依据当前模型参数，计算分模型$k$对观测数据$y_j$的响应度
   $${\hat{\gamma }}_{jk}=\frac{{\alpha }_k\varphi (y_j|{\theta }_k)}{{\sum }_{k=1}^K{\alpha }_k\varphi (y_j|\theta )},j=1,2,\cdots ;k=1,2,\cdots ,K$$
   (3) M步：计算新一轮迭代的模型参数
   $${\hat{\mu }}_k=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}{y}_j}{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}},k=1,2,\cdots ,K$$
   $${\hat{\sigma }}_k^2=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}(y_j-{\mu }_k{)}^2}{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}},k=1,2,\cdots ,K$$
   $${\hat{\alpha }}_k=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}}{N},k=1,2,\cdots ,N$$
   (4) 重复第(2)步和第(3)步，直到收敛。

EM算法的推广

EM算法还可以解释为F函数的极大-极大算法，基于这个解释有若干变形与推广，如广义期望极大算法。下面予以介绍。

• F函数的极大-极大算法
  首先引进F函数并讨论其性质。
  定义3（F函数） 假设隐变量数据$Z$的概率分布为$\tilde{P}(Z)$，定义分布$\tilde{P}$与参数$\theta$的函数$F(\tilde{P},\theta )$如下：
  $$F(\tilde{P},\theta )=E_{\tilde{P}}[\log P(Y,Z|\theta )]+H(\tilde{P})\text{\hspace{1em}(27)}$$
  称为F函数。式中$H(\tilde{P})=-E_{\tilde{P}}\log \tilde{P}(Z)$是分布$\tilde{P}(Z)$的熵。
  在定义3中，通常假设$P(Y,Z|\theta )$是$\theta$的连续函数，因而$F(\tilde{P},\theta )$是$\tilde{P}$和$\theta$的连续函数。函数$F(\tilde{P},\theta )$还有以下重要性质：
  引理1 对于固定的$\theta$，存在唯一的分布${\tilde{P}}_{\theta }$极大化$F(\tilde{P},\theta )$，这时${\tilde{P}}_{\theta }$由下式给出：
  $${\tilde{P}}_{\theta }(Z)=P(Z|Y,\theta )\text{\hspace{1em}(28)}$$
  并且${\tilde{P}}_{\theta }$随$\theta$连续变化。
  证明 对于固定的$\theta$，可以求得使$F(\tilde{P},\theta )$达到极大的分布${\tilde{P}}_{\theta }(Z)$。为此，引进拉格朗日乘子$\lambda$，拉格朗日函数为
  $$L=E_{\tilde{P}}\log P(Y,Z|\theta )-E_{\tilde{P}}\log \tilde{P}(Z)+\lambda (1-\sum _Z\tilde{P}(Z))\text{\hspace{1em}(29)}$$
  将其对$\tilde{P}$求偏导数：
  $$\frac{\partial L}{\partial \tilde{P}(Z)}=\log P(Y,Z|\theta )-\log \tilde{P}(Z)-1-\lambda$$
  令偏导数等于0，得出
  $$\lambda =\log P(Y,Z|\theta )-\log {\tilde{P}}_{\theta }(Z)-1$$
  由此推出${\tilde{P}}_{\theta }(Z)$与$P(Y,Z|\theta )$成比例
  $$\frac{P(Y,Z|\theta )}{{\tilde{P}}_{\theta }(Z)}=e^{1+\lambda }$$
  再从约束条件${\sum }_Z{\tilde{P}}_{\theta }(Z)=1$得式(28)。
  由假设$P(Y,Z|\theta )$是$\theta$的连续函数，得到${\tilde{P}}_{\theta }$是$\theta$的连续函数。
  引理2 若${\tilde{P}}_{\theta }(Z)=P(Z|Y,\theta )$，则
  $$F(\tilde{P},\theta )=\log P(Y|\theta )\text{\hspace{1em}(30)}$$
  由以上引理，可以得到关于EM算法用F函数的极大-极大算法的解释。
  定理3 设$L(\theta )=\log P(Y|\theta )$为观测数据的对数似然函数，${\theta }^{(i)},i=1,2,\cdots$，为EM算法得到的参数估计序列，函数$F(\tilde{P},\theta )$由式(27)定义。若果$F(\tilde{P},\theta )$在${\tilde{P}}^{\ast }$和${\theta }^{\ast }$有局部极大值，那么$L(\theta )$也在${\theta }^{\ast }$有局部极大值。类似地，如果$F(\tilde{P},\theta )$在${\tilde{P}}^{\ast }$和${\theta }^{\ast }$达到全局最大值，那么$L(\theta )$也在${\theta }^{\ast }$达到全局最大值。
  证明 由引理1和引理2可知，$L(\theta )=\log P(Y|\theta )=F({\tilde{P}}_{\theta },\theta )$对任意$\theta$成立。特别地，对于使$F(\tilde{P},\theta )$达到极大的参数${\theta }^{\ast }$，有
  $$L({\theta }^{\ast })=F({\tilde{P}}_{{\theta }^{\ast }},{\theta }^{\ast })=F({\tilde{P}}^{\ast },{\theta }^{\ast })\text{\hspace{1em}(31)}$$
  为了证明${\theta }^{\ast }$是$L(\theta )$的极大点，需要证明不存在接近${\theta }^{\ast }$的点${\theta }^{\ast \ast }$，使$L({\theta }^{\ast \ast })>L({\theta }^{\ast })$。加入存在这样的点${\theta }^{\ast \ast }$，那么应有$F({\tilde{P}}^{\ast \ast },{\theta }^{\ast \ast })>F({\tilde{P}}^{\ast },{\theta }^{\ast })$，这里${\tilde{P}}^{\ast \ast }={\tilde{P}}_{{\theta }^{\ast \ast }}$。但因${\tilde{P}}_{\theta }$是随$\theta$连续变化的，${\tilde{P}}^{\ast \ast }$应接近${\tilde{P}}^{\ast }$，这与${\tilde{P}}^{\ast }$和${\theta }^{\ast }$是$F(\tilde{P},\theta )$的局部极大点的假设矛盾。
  类似可以证明关于全局最大值的结论。
  定理4 EM算法的一次迭代可由F函数的极大-极大算法实现。
  设${\theta }^{(i)}$为第$i$次迭代参数$\theta$的估计，${\tilde{P}}^{(i)}$为第$i$次迭代函数$\tilde{P}$的估计。在第$i+1$次迭代的两步为
  (1) 对固定的${\theta }^{(i)}$，求${\tilde{P}}^{(i+1)}$使$F(\tilde{P},{\theta }^{(i)})$极大化；
  (2) 对固定的${\tilde{P}}^{(i+1)}$，求${\theta }^{i+1}$使$F({\tilde{P}}^{(i+1)},\theta )$极大化。
  证明 (1) 由引理1，对于固定的${\theta }^{(i)}$，
  $${\tilde{P}}^{(i+1)}(Z)={\tilde{P}}_{{\theta }^{(i)}}(Z)=P(Z|Y,{\theta }^{(i)})$$
  使$F(\tilde{P},{\theta }^{(i)})$极大化。此时
  $$\begin{array}{rl}F({\tilde{P}}^{(i+1)},\theta )& =E_{{\tilde{P}}^{(i+1)}}[\log P(Y,Z|\theta )]+H({\tilde{P}}^{(i+1)})\\ & =\sum _Z\log P(Y,Z|\theta )P(Z|Y,{\theta }^{(i)})+H({\tilde{P}}^{(i+1)})\end{array}$$
  由$Q(\theta ,{\theta }^{(i)})$的定义式(5)有
  $$F({\tilde{P}}^{(i+1)},\theta )=Q(\theta ,{\theta }^{(i)})+H({\tilde{P}}^{(i+1)})$$
  (2) 固定${\tilde{P}}^{(i+1)}$，求${\theta }^{(i+1)}$使$F({\tilde{P}}^{(i+1)},\theta )$极大化。得到
  $${\theta }^{(i+1)}=\arg \underset{\theta }{\max }F({\tilde{P}}^{(i+1)},\theta )=\arg \underset{\theta }{\max }Q(\theta ,{\theta }^{(i)})$$
  通过以上两步完成了EM算法的一次迭代。由此可知，由EM算法与F函数的极大-极大算法得到的参数估计序列${\theta }^{(i)},i=1,2,\cdots$，是一致的。
  这样，就有EM算法的推广。

• GEM算法
  算法3（GEM算法1）
  输入：观测数据，F函数；
  输出：模型参数。
  (1) 初始化参数${\theta }^{(0)}$，开始迭代
  (2) 第$i+1$次迭代，第1步：记${\theta }^{(i)}$为参数$\theta$的估计值，${\tilde{P}}^{(i)}$为函数$\tilde{P}$的估计。求${\tilde{P}}^{(i+1)}$使$\tilde{P}$极大化$F(\tilde{P},{\theta }^{(i)})$
  (3) 第2步：求${\theta }^{(i+1)}$使$F({\tilde{P}}^{(i+1)},\theta )$极大化
  (4) 重复(2)和(3)，直到收敛。
  在GEM算法1中，有时求$Q(\theta ,{\theta }^{(i)})$的极大化是很困难的。下面介绍的GEM算法2和GEM算法3并不是直接求${\theta }^{(i+1)}$使$Q(\theta ,{\theta }^{(i)})$达到极大的$\theta$，而是找一个${\theta }^{(i+1)}$使得$Q({\theta }^{(i+1)},{\theta }^{(i)})>Q({\theta }^{(i)},{\theta }^{(i)})$。
  算法4（GEM算法2）
  输入：观测数据，Q函数；
  输出：模型参数。
  (1) 初始化参数${\theta }^{(0)}$，开始迭代
  (2) 第$i+1$次迭代，第1步：记${\theta }^{(i)}$为参数$\theta$的估计值，计算
  $$\begin{array}{rl}Q(\theta ,{\theta }^{(i)})& =E_Z[\log P(Y,Z|\theta )|Y,{\theta }^{(i)}]\\ & =\sum _{Z}P(Z|Y,{\theta }^{(i)})\log P(Y,Z|\theta )\end{array}$$
  (3) 第2步：求${\theta }^{(i+1)}$使
  KaTeX parse error: Expected 'EOF', got '\thata' at position 35: …theta^{(i)})>Q(\̲t̲h̲a̲t̲a̲{(i)},\theta^{(…
  (4) 重复(2)和(3)，直到收敛。
  当参数$\theta$的维数为$d(d\ge 2)$时，可采用一种特殊的GEM算法，它将EM算法的M步分解为d次条件极大化，每次只改变参数向量的一个分量，其余分量不改变。
  算法5（GEM算法3）
  输入：观测数据，Q函数；
  输出：模型参数。
  (1) 初始化参数${\theta }^{(0)}=({\theta }_1^{(0)},{\theta }_2^{(0)},\cdots ,{\theta }_d^{(0)})$，开始迭代
  (2) 第$i+1$次迭代，第1步：记${\theta }^{(i)}=({\theta }_1^{(i)},{\theta }_2^{(i)},\cdots ,{\theta }_d^{(i)})$为参数$\theta =({\theta }_1,{\theta }_2,\cdots ,{\theta }_d)$的估计值，计算
  $$\begin{array}{rl}Q(\theta ,{\theta }^{(i)})& =E_Z[\log P(Y,Z|\theta )|Y,{\theta }^{(i)}]\\ & =\sum _{Z}P(Z|Y,{\theta }^{(i)})\log P(Y,Z|\theta )\end{array}$$
  (3) 第2步：进行d次条件极大化：
  首先，在${\theta }_2^{(i)},\cdots ,{\theta }_k^{(i)}$保持不变的条件下求使$Q(\theta ,{\theta }^{(i)})$达到极大的${\theta }_2^{(i+1)}$；
  然后，在${\theta }_1={\theta }_1^{(i+1)},{\theta }_j={\theta }_j^{(i)},j=2,3,\cdots ,k$的条件下求使$Q(\theta ,{\theta }^{(i)})$达到极大的${\theta }_2^{(i+1)}$；
  如此继续，经过d次条件极大化，得到${\theta }^{(i+1)}=({\theta }_1^{(i+1)},{\theta }_2^{(i+1)},\cdots ,{\theta }_d^{(i+1)})$使得
  KaTeX parse error: Expected 'EOF', got '\thata' at position 35: …theta^{(i)})>Q(\̲t̲h̲a̲t̲a̲{(i)},\theta^{(…
  (4) 重复(2)和(3)，直到收敛。