机器学习笔记之配分函数(二)——随机最大似然

引言

上一节介绍了对包含配分函数的概率分布——使用极大似然估计求解模型参数的梯度(对数似然梯度)，本节将基于上述结论，介绍随机最大似然(Stochastic Maximum Likelihood)。

回顾：对数似然梯度

已知样本集合 X = { x ( i ) } i = 1 N \mathcal X = \{x^{(i)}\}_{i=1}^N X={ x(i)}i=1N​，且随机变量 X = { x 1 , ⋯   , x p } \mathcal X = \{x_1,\cdots,x_p\} X={ x1​,⋯,xp​}在$p$维实数域上有意义($\mathcal{X}\in {\mathbb{R}}^p$)。
$\text{ML Learning : }$针对包含配分函数的概率模型$\mathcal{P}(\mathcal{X};\theta )$中对模型参数$\theta$进行求解。以极大似然估计为例，最优模型参数$\hat{\theta }$表示如下：
$$\begin{array}{rl}\hat{\theta }& =\underset{\theta }{\mathrm{argmax}}\log \prod _{i=1}^N\mathcal{P}(x^{(i)};\theta )\\ & =\underset{\theta }{\mathrm{argmax}}\sum _{i=1}^N\log \left[\frac{1}{\mathcal{Z}(\theta )}\hat{\mathcal{P}}(x^{(i)};\theta )\right]\\ & =\underset{\theta }{\mathrm{argmax}}\sum _{i=1}^N\left[\log \hat{\mathcal{P}}(x^{(i)};\theta )-\log \mathcal{Z}(\theta )\right]\end{array}$$
其中$\hat{\mathcal{P}}(\mathcal{X};\theta )$表示不包含配分函数的概率模型结果；$\mathcal{Z}(\theta )$表示配分函数(Partition Function)，假设$\mathcal{X}$是连续型随机变量，配分函数可表示为：
$$\begin{array}{rl}\mathcal{Z}(\theta )& ={\int }_{\mathcal{X}}\hat{\mathcal{P}}(\mathcal{X};\theta )d\mathcal{X}\\ & ={\int }_{x_1},\cdots ,{\int }_{x_p}\hat{\mathcal{P}}(x_1,\cdots ,x_p;\theta )d(x_1,\cdots ,x_p)\end{array}$$
将上式进行整理，可表示为如下表达：
{ L ( θ ) = 1 N ∑ i = 1 N log ⁡ P ^ ( x ( i ) ; θ ) − log ⁡ Z ( θ ) θ ^ = arg ⁡ max ⁡ θ L ( θ ) \begin{cases} \mathcal L(\theta) = \frac{1}{N} \sum_{i=1}^N \log \hat {\mathcal P}(x^{(i)};\theta) - \log \mathcal Z(\theta) \\ \quad \\ \hat \theta = \mathop{\arg\max}\limits_{\theta} \mathcal L(\theta) \end{cases} ⎩ ⎨ ⎧​L(θ)=N1​∑i=1N​logP^(x