硬啃：《Deep Learning》最大似然估计

学习了很多的模型评估指标后，我们如何在合适的模型中使用合适的指标得出优秀的估计水准呢？最常用的就是最大似然估计。

考虑一组含有$m$个样本的数据集 X = { x 1 , … , x m } \mathbb X=\{x^{1},\dots,x^{m}\} X={x1,…,xm}，独立地由未知的真实数据生成分布$p_{data}(x)$生成。

令$p_{model}(x;\theta )$是一族由$\theta$确定在相同空间上的概率分布。简单来说，$p_{model}(x;\theta )$将任意输入$x$映射到实数来估计真实概率$p_{data}(x)$。

对$\theta$的最大似然估计定义为

$$\begin{gathered} {\theta }_{ML}=\underset{\theta }{\mathrm{argmax}}{p}_{model}(\mathbb{X};\theta ) \\ =\underset{\theta }{\mathrm{argmax}}\prod _{i=1}^m{P}_{model}(x^{(i)};\theta ) \end{gathered}$$

多个概率模型的乘积会因很多原因不方便计算。例如，计算中很可能会出现数值下溢。为了得到一个便于计算的等价优化，我们观察到似然对数不会改变其$\mathrm{argmax}$，但是将乘积转化为了求和：

$${\theta }_{ML}=\underset{\theta }{\mathrm{argmax}}\sum _{i=1}^m\log P_{model}(x^{(i)};\theta )$$

因为当重新缩放代价函数的时候$\mathrm{argmax}$不会改变，我们可以除以$m$得到和训练数据经验分布${\hat{p}}_{data}$相关的期望作为准则：

$${\theta }_{ML}=\underset{\theta }{\mathrm{argmax}}{\mathbb{E}}_{X\sim {\hat{p}}_{data}}\log P_{model}(x^{(i)};\theta )$$

一种解释最大似然估计的观点就是将它看作是最小化训练集上的经验分布${\hat{p}}_{data}$和模型分布之间的差异，两者之间的差异程度可以通过$KL$散度度量。$KL$散度被定义为：

$$D_{KL}({\hat{p}}_{data}||p_{model})={\mathbb{E}}_{X\sim {\hat{p}}_{data}}[\log {\hat{p}}_{data}(x)-\log p_{model}(x)]$$

左边一项仅涉及数据生成，和模型无关。这意味着当训练模型最小化$KL$散度时，我们只需要最小化

$$-{\mathbb{E}}_{X\sim {\hat{p}}_{data}}[\log p_{model}(x)]$$

我们可以将最大似然看作使得模型分布尽可能地和经验分布${\hat{p}}_{data}$相匹配的尝试。理想情况下，我们希望匹配更加真实的数据生成分布$p_{data}$，但是我们无法直接获取这个分布。

条件对数似然和均方误差

最大似然估计很容易扩展到估计条件概率$P(y|x;\theta )$，从而给定$x$预测$y$。这也是最常见的情况，因为这构成了大多数监督学习的基础。如果$X$表示所有输入，$Y$表示我们所预测的目标，那么条件最大似然估计是

$${\theta }_{ML}=\underset{\theta }{\mathrm{argmax}}P(Y|X;\theta )$$

如果假设样本是独立同分布的，那么上式可以分解为

$${\theta }_{ML}=\underset{\theta }{\mathrm{argmax}}\sum _{i=1}^m\log P(y^{(i)}|x^{(i)};\theta )$$

---

示例：线性回归作最大似然

前面我们学过线性回归了，我们将线性回归作为学习从输入$x$映射到输出$\hat{y}$的算法。从$x$映射到$\hat{y}$选自最小的均方误差。现在我们用最大似然估计的角度重新看待线性回归。我们希望模型可以得到条件概率$p(y|x)$，而不只是一个单独的预测结果。假设拥有一个无限大的数据集做训练，我们可能会观测到几个训练样本有同样的输入但是不同的输出。现在学习算法将会拟合出一个分布$p(y|x)$到和$x$相匹配的不同的$y$。

我们为了和以前的结果一致，我们定义$p(y|x)=N(y;\hat{y}(x;\omega ),{\sigma }^2)$。函数$\hat{y}(x;\omega )$用于预测高斯均值。在这个例子中，我们假设方差是用户固定的某个常量${\sigma }^2$。这种函数形式会使得最大似然估计得出和之前相同的学习算法。由于假设样本是独立同分布的，条件对数似然如下

$$\begin{gathered} \sum _{i=1}^m\log p(y^i|x^{(i)};\theta ) \\ =-m\log \sigma -\frac{m}{2}\log 2\pi -\sum _{i=1}^m\frac{||{\hat{y}}^{(i)}-y^{(i)}||}{2{\sigma }^2} \end{gathered}$$

其中${\hat{y}}^{(i)}$是线性回归在第$i$个输入$x^{(i)}$上的输出，$m$是训练样本数目。对比均方误差和对数似然，

$$MS{E}_{train}=\frac{1}{m}\sum _{i=1}^m||{\hat{y}}^{(i)}-y^{(i)}|{|}^2$$

通过上式我们可以发现，最大化关于$\omega$的对数似然和最小化均方误差会得到相同的参数估计$\omega$。但是对于相同的最优解，这两个准则有不同的值。这验证了MSE可以用于最大似然估计。最大似然估计有几个很不错的性质。

最大似然的性质

在合适的条件下，极大似然估计具有一致性，意味着当训练数据趋于无穷大时，参数的最大似然估计会收敛到参数的真实值。这些条件如下：

• 真实分布$p_{data}$必须在模型族$p_{model}(\cdot ;\theta )$中。否则，没有估计可以还原$p_{data}$。
• 真实分布$p_{data}$必须刚好对应一个$\theta$值。否则，最大似然估计恢复出真实分布$p_{data}$后。也不能决定数据生成过程使用哪一个$\theta$。

统计效率通常用于有参情况下，我们在有参情况中，我们只需要关注参数值，而不是函数值。度量和真实参数相差多少的计算方法是计算均方误差的期望，即计算$m$个从数据生成分布中出来的训练样本上的估计参数和真实参数之间差值的平方。有参均方误差估计随着$m$的增大而减小。

最大似然估计依然是机器学习中的首选估计方法。当样本数目小到会发生过拟合的情况时，正则化策略如权重衰减可用于在数据集优先的情况下减少过拟合的发生。