机器学习笔记之配分函数(三)对比散度

引言

上一节介绍了随机最大似然(Stochastic Maximum Likelihood)求解最优模型参数的过程。本节将介绍对比散度(Constractive Divergence,CD)。

回顾：随机最大似然求解模型参数的过程

针对极大似然估计，使用梯度上升算法使模型参数$\theta$逼近最优参数$\hat{\theta }$：
$$\begin{array}{r}\hat{\theta }=\underset{\theta }{\mathrm{argmax}}\log \prod _{i=1}^N\mathcal{P}(x^{(i)};\theta )\\ {\theta }^{(t+1)}\Leftarrow {\theta }^{(t)}+\eta {\nabla }_{\theta }\mathcal{L}(\theta )\end{array}$$

关于目标函数梯度${\nabla }_{\theta }\mathcal{L}(\theta )$表示如下：
$${\nabla }_{\theta }\mathcal{L}(\theta )={\mathbb{E}}_{{\mathcal{P}}_{data}}\left[{\nabla }_{\theta }\log \hat{\mathcal{P}}(x^{(i)};\theta )\right]-{\mathbb{E}}_{{\mathcal{P}}_{model}}\left[{\nabla }_{\theta }\log \hat{\mathcal{P}}(\mathcal{X};\theta )\right]$$

其中：

• ${\mathcal{P}}_{data}$表示真实分布，该分布是客观存在的，可以将样本集合$\mathcal{X}$看作是从${\mathcal{P}}_{data}$中采出的$N$个样本；

• ${\mathcal{P}}_{model}$表示模型分布，它实际上是基于样本特征或者概率图结构假设出来的分布；

• ${\mathbb{E}}_{{\mathcal{P}}_{data}}\left[{\nabla }_{\theta }\log \hat{\mathcal{P}}(x^{(i)};\theta )\right]$表示正相(Positive Phase)，它本质上是基于${\mathcal{P}}_{data}$的期望结果。由于样本集合$\mathcal{X}$的特征均是可观测的，因而正相的期望求解更加简单。如：批梯度下降法(Batch Gradient Descent)；mini-Batch 梯度下降法等。

• ${\mathbb{E}}_{{\mathcal{P}}_{model}}\left[{\nabla }_{\theta }\log \hat{\mathcal{P}}(\mathcal{X};\theta )\right]$表示负相(Negative Phase)。负相难求解的原因在于：它不像${\mathcal{P}}_{data}$是恒定不变的，并拥有$\mathcal{X}$提供采样；我们假定的${\mathcal{P}}_{model}$要逼近${\mathcal{P}}_{data}$，但随着${\mathcal{P}}_{model}$