【统计学习方法】学习笔记——EM算法及其推广

EM算法是一种迭代算法，用于含有 隐变量(hidden variable)的概率模型参数的极大似然估计,或极大后验概率估计。
EM算法的每次迭代由两步组成：E步,求期望(expectation)；M步,求极大(maximization)。所以这一算法称为 期望极大算法(expectation maximization algorithm),简称EM算法。

1. EM算法的引入

概率模型有时既含有观测变量( observable variable),又含有隐变量或潜在变量( (latent variable)。如果概率模型的变量都是观测变量，那么给定数据，可以直接用极大似然估计法，或者贝叶斯估计法估计模型参数。但是当模型含有隐变量时，就不能用这些估计方法。

EM算法就是含有隐变量的概率模型参数的极大似然估计法，或极大后验概率估计法。

1.1 EM算法

将观测数据表示为 $Y={\left(Y_1,Y_2,\cdots ,Y_n\right)}^{\mathrm{T}}$ , 未观测数据表示为$Z={\left(Z_1,Z_2,\cdots ,Z_n\right)}^{\mathrm{T}}$，则观测数据的似然函数为
$$P(Y\mid \theta )=\sum _{Z}P(Z\mid \theta )P(Y\mid Z,\theta )$$
即
$$P(Y\mid \theta )=\prod _{j=1}^n\left[\pi p^{y_j}(1-p{)}^{1-y_j}+(1-\pi )q^{y_j}(1-q{)}^{1-y_j}\right]$$
考虑求模型参数$\theta =(\pi ,p,q)$的极大似然估计, 即
$$\hat{\theta }=\arg \underset{\theta }{\max }\log P(Y\mid \theta )$$

这个问题没有解析解，只有通过迭代的方法求解。EM算法就是可以用于求解这个问题的一种迭代算法。下面给出针对以上问题的 EM 算法
EM 算法首先选取参数的初值, 记作 ${\theta }^{(0)}=\left({\pi }^{(0)},p^{(0)},q^{(0)}\right)$, 然后通过下面的步骤迭代计算参数的估计值, 直至收敛为止。第$i$次迭代参数的估计值为 ${\theta }^{(i)}=\left({\pi }^{(i)},p^{(i)},q^{(i)}\right)$ 。 EM 算法的第$i+1$ 次迭代如下。
$\mathrm{E}$步: 计算在模型参数 ${\pi }^{(i)},p^{(i)},q^{(i)}$下观测数据 $y_j$来自掷硬币 $\mathrm{B}$ 的概率
$${\mu }_j^{(i+1)}=\frac{{\pi }^{(i)}{\left(p^{(i)}\right)}^{y_j}{\left(1-p^{(i)}\right)}^{1-y_j}}{{\pi }^{(i)}{\left(p^{(i)}\right)}^{y_j}{\left(1-p^{(i)}\right)}^{1-y_j}+\left(1-{\pi }^{(i)}\right){\left(q^{(i)}\right)}^{y_j}{\left(1-q^{(i)}\right)}^{1-y_j}}$$
$M$步: 计算模型参数的新估计值
$${\pi }^{(i+1)}=\frac{1}{n}\sum _{j=1}^n{\mu }_j^{(i+1)}$$
$$p^{(i+1)}=\frac{{\sum }_{j=1}^n{\mu }_j^{(i+1)}{y}_j}{{\sum }_{j=1}^n{\mu }_j^{(i+1)}}$$
$$q^{(i+1)}=\frac{{\sum }_{j=1}^n(1-{\mu }_j^{(i+1)}{y}_j)}{{\sum }_{j=1}^n(1-{\mu }_j^{(i+1)})}$$

EM算法与初值的选择有关，选择不同的初值可能得到不同的参数估计值。

一般地，用 $Y$ 表示观测随机变量的数据, $Z$ 表示隐随机变量的数据。$Y$ 和 $Z$ 连 在一起称为完全数据 (complete-data), 观测数据 $Y$ 又称为不完全数据 (incomplete-data）。

假设给定观测数据 $Y$, 其概率分布是 $P(Y\mid \theta )$, 其中 $\theta$ 是需要估计的模型参数, 那么不完全数据 $Y$ 的似然函数是 $P(Y\mid \theta )$, 对数似然函数 $L(\theta )=\log P(Y\mid \theta )$ ;假设 $Y$ 和 $Z$ 的联合概率分布是 $P(Y,Z\mid \theta )$, 那么完全数据的对数似然函数是 $\log P(Y,Z\mid \theta )$。

$\mathrm{E}\mathrm{M}$ 算法通过迭代求$L(\theta )=\log P(Y\mid \theta )$的极大似然估计。每次迭代包含两步: $\mathrm{E}$步, 求期望; $\mathrm{M}$ 步, 求极大化。
算法：EM算法
输入：观测变量数据$Y$，隐变量数据$Z$，联合分布$P(Y,Z|\theta )$，条件分布$P(Z|Y,\theta )$；
输出：模型参数$\theta$
(1)选择参数的初值${\theta }^{(0)}$，开始迭代
(2)E步：记${\theta }^{(i)}$为第$i$次迭代参数$\theta$的估计值，在第$i+1$次迭代的$E$步，计算$$\begin{gathered} Q(\theta ,{\theta }^{(i)})=E_z[\log P(Y,Z|\theta )|Y,{\theta }^{(i)}] \\ =\sum _Z\log P(Y,Z|\theta )P(Z|Y,{\theta }^{(i)}) \end{gathered}$$
这里，$P(Z|Y,{\theta }^{(i)})$是在给定观测数据$Y$和当前的参数估计${\theta }^{(i)}$下隐变量数据$Z$的条件概率分布。
(3)M步：求使$Q(\theta ,{\theta }^{(i)})$极大化的$\theta$，确定第$i+1$次迭代的参数的估计值${\theta }^{(i+1)}$
$${\theta }^{(i+1)}=arg\underset{\theta }{\max }Q(\theta ,{\theta }^{(i)})$$
(4)重复第2步和第3步，直到收敛。

函数$Q(\theta ,{\theta }^{(i)})$是EM算法的核心，称为Q函数（Q function）。
定义9.1 (Q函数) 完全数据的对数似然函数$\log P(Y,Z|\theta )$关于在给定观测数据$Y$和当前参数${\theta }^{(i)}$下对未观测数据$Z$的条件概率分布$P(Z|Y,{\theta }^{(i)})$的期望称为Q函数，即$$Q(\theta ,{\theta }^{(i)})=E_z[\log P(Y,Z|\theta )|Y,{\theta }^{(i)}]$$

下面关于 EM 算法作几点说明:

• 步骤 (1）参数的初值可以任意选择, 但需注意$\mathrm{E}\mathrm{M}$算法对初值是敏感的。
• 步骤 (2) $\mathrm{E}$步求$Q\left(\theta ,{\theta }^{(i)}\right)$ 。Q 函数式中 Z 是未观测数据, Y 是观测数据。注 意$Q\left(\theta ,{\theta }^{(i)}\right)$的第 1 个变元表示要极大化的参数, 第 2 个变元表示参数的当前估计值。每次迭代实际在求 Q 函数及其极大。
• 步骤 (3) $\mathrm{M}$步求$Q\left(\theta ,{\theta }^{(i)}\right)$的极大化, 得到 ${\theta }^{(i+1)}$, 完成一次迭代${\theta }^{(i)}\to {\theta }^{(i+1)}$。 后面将证明每次迭代使似然函数增大或达到局部极值。
• 步骤 (4）给出停止迭代的条件, 一般是对较小的正数${\epsilon }_1,{\epsilon }_2$, 若满足
  $$\Vert {\theta }^{(i+1)}-{\theta }^{(i)}\Vert <{\epsilon }_1\text{ 或 }\Vert Q\left({\theta }^{(i+1)},{\theta }^{(i)}\right)-Q\left({\theta }^{(i)},{\theta }^{(i)}\right)\Vert <{\epsilon }_2$$
  则停止迭代。备注：实际工程中可能会设置epoch迭代停止

1.2 EM算法的导出

EM算法本质是估计一个密度函数，估计密度函数通常情况下是通过观测值，最大化似然函数去估计参数，而EM算法针对含有隐变量的密度函数估计，此时直接最大化似然函数会比较困难。

待估计参数$\theta$, 观测数据： Y = { y 1 , y 2 , . . . , y N } Y=\{y_1, y_2,...,y_N\} Y={y1​,y2​,...,yN​} ,隐变量： Z = { z 1 , z 2 , . . . , N } Z=\{z_1, z_2,...,_N\} Z={z1​,z2​,...,N​} ,似然函数：$$L(\theta )=\log P(Y|\theta )=\log \sum _{Z}P(Y,Z|\theta )=\log (\sum _{Z}P(Y|Z,\theta )P(Z|\theta ))$$

对于给定$\theta$一个初值，然后进行迭代逐渐最大化似然函数，
$$L({\theta }^{(i+1)})-L({\theta }^{(i)})=\log (\sum _{Z}P(Y|Z,\theta )P(Z|\theta ))-\log P(Y|{\theta }^{(i)})$$
由Jensen不等式：$f({\sum }_i{\alpha }_i{x}_i)\ge {\sum }_i{\alpha }_{i}f(x_i)\Rightarrow \log E(Y)\ge E(\log (Y))$，其中$0\le {\alpha }_i\le 1$
$$\begin{gathered} L({\theta }^{(i+1)})-L({\theta }^{(i)})=\log \sum _{Z}P(Y|Z,{\theta }^{(i)})\frac{P(Y|Z,\theta )P(Z|\theta )}{P(Y|Z,{\theta }^{(i)})}-\log P(Y|{\theta }^{(i)}) \\ \ge \sum _{Z}P(Z|Y,{\theta }^{(i)})\log \frac{P(Y|Z,\theta )P(Z|\theta )}{P(Z|Y,{\theta }^{(i)})}-\log P(Y|{\theta }^{(i)}) \\ =\sum _{Z}P(Z|Y,{\theta }^{(i)})\log \frac{P(Y|Z,\theta )P(Z|\theta )}{P(Z|Y,{\theta }^{(i)})P(Y|{\theta }^{(i)})} \end{gathered}$$
令 $B(\theta ,{\theta }^{(i)})=L({\theta }^{(i)})+{\sum }_{Z}P(Z|Y,{\theta }^{(i)})\log \frac{P(Y|Z,\theta )P(Z|\theta )}{P(Z|Y,{\theta }^{(i)})P(Y|{\theta }^{(i)})}$
则有：$$L(\theta )\ge B(\theta ,{\theta }^{(i)})$$
即函数$B(\theta ,{\theta }^{(i)})$是$L(\theta )$的一个下界，而且由上式可知$$L({\theta }^{(i)})=B({\theta }^{(i)},{\theta }^{(i)})$$
因此，任何可以使$B({\theta }^{(i)},{\theta }^{(i)})$增大的$\theta$，也可以使$L(\theta )$增大。选择${\theta }^{(i+1)}$使得$B(\theta ,{\theta }^{(i)})$达到极大，即
$${\theta }^{(i+1)}=arg\underset{\theta }{\max }B({\theta }^{(i)},{\theta }^{(i)})$$
去除跟$\theta$无关的项，有：
$$\begin{gathered} {\theta }^{(i+1)}=arg\underset{\theta }{\max }(\sum _{Z}P(Z|Y,{\theta }^{(i)})(\log P(Y|Z,\theta ))P(Z|\theta )) \\ =arg\underset{\theta }{\max }\sum _{Z}P(Z|Y,{\theta }^{(i)})(\log P(Y,Z|\theta )) \end{gathered}$$
$$Q\left(\theta ,{\theta }^{(i)}\right)=\sum _{Z}P(Z|Y,{\theta }^{(i)})(\log P(Y,Z|\theta ))$$
求$Q_i(Z^{(i)}):=P(Z|Y,{\theta }^{(i)})$就是EM算法中Expectation，
而$arg{\max }_{\theta }Q\left(\theta ,{\theta }^{(i)}\right)$就是EM算法中Maximization。

EM 算法是通过不断求解下界的极大化逼近求解对数似然函数极大化的算法。

1.3 EM算法在非监督学习中的应用

监督学习是由训练数据 { ( x 1 , y 1 ) , ( x 2 , y 2 ) , ⋯   , ( x N , y N ) } \left\{\left(x_{1}, y_{1}\right),\left(x_{2}, y_{2}\right), \cdots,\left(x_{N}, y_{N}\right)\right\} {(x1​,y1​),(x2​,y2​),⋯,(xN​,yN​)}学习条件概率分布$P(Y\mid X)$或决策函数$Y=f(X)$作为模型, 用于分类、回归、标注等任务。这时训练数据中的每个样本点由输入和输出对组成。
有时训练数据只有输入没有对应的输出 { ( x 1 , ∙ ) , ( x 2 , ∙ ) , ⋯   , ( x N , ∙ ) } \left\{\left(x_{1}, \bullet\right),\left(x_{2}, \bullet\right), \cdots,\left(x_{N}, \bullet\right)\right\} {(x1​,∙),(x2​,∙),⋯,(xN​,∙)}, 从这样的数据学习模型称为无监督学习问题。

EM 算法可以用于生成模型的无监督学习。生成模型由联合概率分布 $P(X,Y)$ 表示, 可以认为无监督学习训练数据是联合概率分布产生的数据。 $X$ 为观测数据, $Y$ 为未观测数据。

2. EM算法的收敛性

EM算法提供一种近似计算含有隐变量概率模型的极大似然估计的方法。EM最大的优点就是简单性和普适性。
定理9.1 设 $P(Y\mid \theta )$ 为观测数据的似然函数, ${\theta }^{(i)}(i=1,2,\cdots )$为 $\mathrm{E}\mathrm{M}$ 算法得到的参数估计序列, $P\left(Y\mid {\theta }^{(i)}\right)(i=1,2,\cdots )$为对应的似然函数序列, 则$P\left(Y\mid {\theta }^{(i)}\right)$是单调递增的，即
$$P\left(Y\mid {\theta }^{(i+1)}\right)⩾P\left(Y\mid {\theta }^{(i)}\right)$$

3. EM算法在高斯混合模型学习中的应用

在许多情况下，EM算法是学习高斯混合模型（Gaussian misture model）

3.1 高斯混合模型

定义9.2 (高斯混合模型) 高斯混合模型是指具有如下形式的概率分布模型：
$$P(y|\theta )=\sum _{k=1}^K{\alpha }_k\varphi (y|{\theta }_k)$$
其中，${\alpha }_k$是系数，${\alpha }_k\ge 0,{\sum }_{k=1}^K{\alpha }_k=1;\varphi (y|{\theta }_k)$是高斯分布密度，${\theta }_k=({\mu }_k，{\theta }_k^2)$，
$$\varphi (y|{\theta }_k)=\frac{1}{\sqrt{2\pi }{\sigma }_k}exp(-\frac{(y-{\mu }_k{)}^2}{2{\sigma }_k^2})$$
称为第$k$个分模型。
一般混合模型可以由任意概率分布密度代替上式中的高斯分布密度。

3.2 高斯混合模型参数估计的EM算法

观测数据$y_1,y_2,\cdots ,y_N$由高斯混合模型生成,
$$P(y\mid \theta )=\sum _{k=1}^K{\alpha }_k\varphi \left(y\mid {\theta }_k\right)$$
其中, $\theta =\left({\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_K;{\theta }_1,{\theta }_2,\cdots ,{\theta }_K\right)$ 。用 EM算法估计高斯混合模型的参数 $\theta$。

1. 明确隐变量，写出完全数据的对数似然函数
   可以设想观测数据$y_j,j=1,2,\cdots ,N$, 是这样产生的: 首先依概率${\alpha }_k$选择第 $k$个高斯分布分模型$\varphi \left(y\mid {\theta }_k\right)$, 然后依第 $k$ 个分模型的概率分布$\varphi \left(y\mid {\theta }_k\right)$生成观测数据$y_j$ 。 这时观测数据$y_j,j=1,2,\cdots ,N$, 是已知的; 反映观测数据$y_j$来自第$k$个分模型的数据是未知的, $k=1,2,\cdots ,K$, 以隐变量${\gamma }_{jk}$表示, 其定义如下:
   $${\gamma }_{jk}=\{\begin{array}{cc}1& 第j个观测来自第k个分模型\\ 0& 否则\end{array}$$
   $$j=1,2,...,N;k=1,2,...,K$$
   ${\gamma }_{jk}$是$0-1$随机变量。
   有了观测数据$y_j$及未观测数据${\gamma }_{jk}$, 那么完全数据是
   $$\left(y_j,{\gamma }_{j1},{\gamma }_{j2},\cdots ,{\gamma }_{jK}\right),j=1,2,\cdots ,N$$
   完全数据的似然函数:
   ​$$\begin{gathered} P(y,\gamma |\theta )=\prod _{j=1}^{N}P(y_j,{\gamma }_{j1},{\gamma }_{j2},\cdots ,{\gamma }_{jK}|\theta ) \\ =\prod _{k=1}^K\prod _{j=1}^N[{\alpha }_k\varphi (y_j|{\theta }_k){]}^{{\gamma }_{jk}} \\ =\prod _{k=1}^K{\alpha }_k^{n_k}\prod _{j=1}^N[\varphi (y_j|{\theta }_k){]}^{{\gamma }_{jk}} \\ \prod _{k=1}^K{\alpha }_k^{n_k}\prod _{j=1}^N[\frac{1}{\sqrt{2\pi }{\sigma }_k}exp(-\frac{(y_j-{\mu }_k{)}^2}{2{\sigma }_k^2}){]}^{{\gamma }_{jk}} \end{gathered}$$
   式中, $n_k={\sum }_{j=1}^N{\gamma }_{jk},{\sum }_{k=1}^K{n}_k=N$
   那么, 完全数据的对数似然函数为
   $$\log P(y,\gamma \mid \theta )=\sum _{k=1}^K\left\{n_k\log {\alpha }_k+\sum _{j=1}^N{\gamma }_{jk}\left[\log \left(\frac{1}{\sqrt{2\pi }}\right)-\log {\sigma }_k-\frac{1}{2{\sigma }_k^2}{\left(y_j-{\mu }_k\right)}^2\right]\right\}$$

2. EM算法的E步：确定Q函数
   

3. 确定EM算法的M步
   迭代的$\mathrm{M}$步是求函数$Q\left(\theta ,{\theta }^{(i)}\right)$对$\theta$的极大值, 即求新一轮迭代的模型参数:
   $${\theta }^{(i+1)}=\arg \underset{\theta }{\max }Q\left(\theta ,{\theta }^{(i)}\right)$$
   用 ${\hat{\mu }}_k$, ${\hat{\sigma }}_k^2$ 及 ${\hat{\alpha }}_k,k=1,2,\cdots ,K$ 表示 ${\theta }^{(i+1)}$ 的各参数。求
   ${\hat{\mu }}_k,{\hat{\sigma }}_k^2$ 只需将式④分别对 ${\mu }_k,{\sigma }_k^2$ 求偏导数并令其为 0, 即可得到; 求 ${\hat{\alpha }}_k$ 是在 ${\sum }_{k=1}^K{\alpha }_k=1$条件下求偏导数并令其为 0 得到的。结果如下:
   $$\widehat{{\mu }_k}=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}{y}_j}{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}},k=1,2,...,K$$
   $${\hat{\sigma }}_k^2=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}(y_j-{\mu }_k{)}^2}{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}},k=1,2,...,K$$
   $${\hat{\alpha }}_k=\frac{n_k}{N}=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}}{N},k=1,2,...,K$$
   重复以上计算, 直到对数似然函数值不再有明显的变化为止。

算法：高斯混合模型参数估计的EM算法
输入: 观测数据$y_1,y_2,\cdots ,y_N$, 高斯混合模型;
输出：高斯混合模型参数。
（1）取参数的初始值开始迭代
（2）E步：依据当前模型参数，计算分模型$k$对观测数据$y_j$的响应度
$${\hat{\gamma }}_{jk}=\frac{{\alpha }_k\varphi (y_j|{\theta }_k)}{{\sum }_{k=1}^K{\alpha }_k\varphi (y_j|{\theta }_k)}，j=1,2,...,N;k=1,2,...,K$$
（3）M步：计算新一轮迭代的模型参数
$$\widehat{{\mu }_k}=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}{y}_j}{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}},k=1,2,...,K$$
$${\hat{\sigma }}_k^2=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}(y_j-{\mu }_k{)}^2}{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}},k=1,2,...,K$$
$${\hat{\alpha }}_k=\frac{{\sum }_{j=1}^N{\hat{\gamma }}_{jk}}{N},k=1,2,...,K$$
（4）重复第（2）步和第（3）步，直到收敛。

4. EM算法的推广

EM算法还可以解释为F函数（F function）的极大—极大算法（maximization-maximization algorithm），基于这个解释有若干变形与推广，如广义期望极大（generalized expectation maximization, GEM）算法。

4.1 F函数的极大—极大算法

F 函数 假设隐变量数据 $Z$ 的概率分布为 $\tilde{P}(Z)$ , 定义分布 $\tilde{P}$ 与参数$\theta$的函数$F(\tilde{P},\theta )$如下:
$$F(\tilde{P},\theta )=E_{\tilde{P}}[\log P(Y,Z\mid \theta )]+H(\tilde{P})=F(\tilde{P},\theta )=\sum _Z[\tilde{P}(Z)\log P(Y,Z\mid \theta )]-\sum _Z[\tilde{P}(Z)\log \tilde{P}(Z)]$$
称为 F函数。式中 $H(\tilde{P})=-E_{\tilde{P}}\log \tilde{P}(Z)$是分布$\tilde{P}(Z)$ 的熵。

引理1 对于固定的 $\theta$, 存在唯一的分布 ${\tilde{P}}_{\theta }$极大化 $F(\tilde{P},\theta )$, 这时 ${\tilde{P}}_{\theta }$
由下式给出:
$${\tilde{P}}_{\theta }(Z)=P(Z\mid Y,\theta )$$
并且 ${\tilde{P}}_{\theta }$ 随 $\theta$ 连续变化。
引理2 若 ${\tilde{P}}_{\theta }(Z)=P(Z\mid Y,\theta )$ , 则$F(\tilde{P},\theta )=logP(Y\mid \theta )$
定理3 设 $L(\theta )=\log P(Y\mid \theta )$ 为观测数据的对数似然函数, ${\theta }^{(i)},i=1,2,\cdots$为 $\mathrm{E}\mathrm{M}$ 算法得到的参数估计序列, 如果 $F(\tilde{P},\theta )$在 ${\tilde{P}}^{\ast }$和 ${\theta }^{\ast }$有局部极大值, 那么 $L(\theta )$ 也在${\theta }^{\ast }$有局部极大值。类似地, 如果$F(\tilde{P},\theta )$在${\tilde{P}}^{\ast }$
和 ${\theta }^{\ast }$达到全局最大值, 那么$L(\theta )$也在 ${\theta }^{\ast }$达到全局最大值。
定理4 EM 算法的一次迭代可由 F 函数的极大-极大算法实现. 设 ${\theta }^{(i)}$为第 $i$ 次迭代参数 $\theta$ 的估计, ${\tilde{P}}^{(i)}$ 为第$i$ 次迭代函数$\tilde{P}$的估计。在第$i+1$次迭代的两步为:
(1) 对固定的 ${\theta }^{(i)}$ 求 ${\tilde{P}}^{(i+1)}$ 使 $F\left(\tilde{P},{\theta }^{(i)}\right)$极大化;
(2) 对固定的 ${\tilde{P}}^{(i+1)}$ 求 ${\theta }^{(i+1)}$使 $F\left({\tilde{P}}^{(i+1)},\theta \right)$极大化.

4.2 GEM算法

GEM 算法 1
输入: 观测数据, F 函数;
输出：模型参数。
(1) 初始化参数 ${\theta }^{(0)}$，开始迭代:
(2) 第 $i+1$ 次迭代, 第 1 步: 记 ${\theta }^{(i)}$为参数$\theta$的估计值, ${\tilde{P}}^{(i)}$为函数$\tilde{P}$的估计,
求 ${\tilde{P}}^{(i+1)}$ 使 $\tilde{P}$ 极大化 $F\left(\tilde{P},{\theta }^{(i)}\right)$;
(3) 第 2 步: 求 ${\theta }^{(i+1)}$ 使 $F\left({\tilde{P}}^{(i+1)},\theta \right)$极大化;
(4) 重复
(2) 和 ( 3 ) (3)(3), 直到收敛。
在 GEM算法 1 中, 有时求 $Q\left(\theta ,{\theta }^{(i)}\right)$的极大化是很困难的。下面介绍的GEM算法 2 和GEM算法 3 并不是直接求 ${\theta }^{(i+1)}$使 $Q\left(\theta ,{\theta }^{(i)}\right)$达到极大的 $\theta$, 而是找一个 ${\theta }^{(i+1)}$使得$Q\left({\theta }^{(i+1)},{\theta }^{(i)}\right)>Q\left({\theta }^{(i)},{\theta }^{(i)}\right)$ .

GEM 算法 2
输入: 观测数据, Q 函数;
输出: 模型参数。
(1) 初始化参数${\theta }^{(0)}$, 开始迭代:
(2) 第$i+1$次迭代, 第 1 步: 记 ${\theta }^{(i)}$为参数 $\theta$ 的估计值, 计算
$$Q(\theta ,{\theta }^{(i)})=E_Z[\log P(Y,Z\mid \theta )\mid Y,{\theta }^{(i)}]=\sum _{Z}P(Z\mid Y,{\theta }^{(i)})\log P(Y,Z\mid \theta )$$

(3) 第 2 步: 求${\theta }^{(i+1)}$使
$$Q\left({\theta }^{(i+1)},{\theta }^{(i)}\right)>Q\left({\theta }^{(i)},{\theta }^{(i)}\right)$$
(2) 和 ( 3 ) , 直到收敛。
(4) 重复
当参数$\theta$的维数为 $d(d⩾2)$ 时, 可采用一种特殊的GEM算法, 它将EM算法的M 步分解为 d 次条件极大化, 每次只改变参数向量的一个分量, 其余分量不改变。

GEM 算法 3
输入: 观测数据, Q 函数;
输出: 模型参数。
(1) 初始化参数 ${\theta }^{(0)}=\left({\theta }_1^{(0)},{\theta }_2^{(0)},\cdots ,{\theta }_d^{(0)}\right)$, 开始迭代;
(2) 第 $i+1$ 次迭代, 第 1 步: 记 ${\theta }^{(i)}=\left({\theta }_1^{(i)},{\theta }_2^{(i)},\cdots ,{\theta }_d^{(i)}\right)$为参数$\theta =\left({\theta }_1,{\theta }_2,\cdots ,{\theta }_d\right)$的估计值, 计算
$$Q(\theta ,{\theta }^{(i)})=E_Z[\log P(Y,Z\mid \theta )\mid Y,{\theta }^{(i)}]=\sum _{Z}P(Z\mid y,{\theta }^{(i)})\log P(Y,Z\mid \theta )$$
(3) 第 2 步: 进行 d 次条件极大化:
首先, 在 ${\theta }_2^{(i)},\cdots ,{\theta }_d^{(i)}$保持不变的条件下求使 $Q\left(\theta ,{\theta }^{(i)}\right)$达到极大的${\theta }_1^{(i+1)}$;
然后, 在${\theta }_1={\theta }_1^{(i+1)},{\theta }_j={\theta }_j^{(i)},j=3,4,\cdots ,d$的条件下求使$Q\left(\theta ,{\theta }^{(i)}\right)$达到极大的${\theta }_2^{(i+1)}$;
如此继续, 经过 d 次条件极大化, 得到${\theta }^{(i+1)}=\left({\theta }_1^{(i+1)},{\theta }_2^{(i+1)},\cdots ,{\theta }_d^{(i+1)}\right)$使得
$$Q\left({\theta }^{(i+1)},{\theta }^{(i)}\right)>Q\left({\theta }^{(i)},{\theta }^{(i)}\right)$$
(4)重复(2) 和 ( 3 ), 直到收敛。

总结

• EM算法是含有隐变量的概率模型极大似然估计或极大后验概率估计的迭代算法。
• 在构建具体的EM算法时，重要的是定义Q函数，每次迭代中，EM算法通过极大化Q函数来增大对数似然函数$L(\theta )$
• EM算法的结果和初值的选取有很大关系，不同的初值会得到不同的解，有可能收敛到局部最优。

内容来源

[1] 《统计学习方法》 李航
[2] https://blog.csdn.net/wl1780852311/article/details/119613563
[3] https://zhuanlan.zhihu.com/p/126320789