负对数似然（Negative Log Likelihood, NLL）的理解：推导与应用

简介

在统计学和机器学习中，负对数似然（NLL） 是一个用于参数估计和优化问题中常用的概念。它是概率理论和优化的桥梁，帮助我们通过找到使观测数据最有可能的参数来拟合模型。

---

1. 似然函数

似然函数（Likelihood Function） 用来衡量在不同的模型参数下，观测到给定数据的可能性有多大。假设我们有：

• 一个数据集 D = { x 1 , x 2 , … , x n } \mathcal{D} = \{x_1, x_2, \dots, x_n\} D={x1​,x2​,…,xn​}。
• 一个由概率密度（或质量）函数 $P(x|\theta )$ 定义的统计模型，其中 $\theta$ 代表模型的参数。

似然函数 $L(\theta )$ 定义为给定参数下观测到数据的联合概率（或密度）：

$$L(\theta )=P(\mathcal{D}|\theta )=\prod _{i=1}^{n}P(x_i|\theta )$$

注意：我们假设数据点是独立同分布（i.i.d.），因此联合概率可以表示为各个数据点概率的乘积。

---

2. 对数似然函数

直接处理似然函数在数值上可能会不稳定，特别是当数据量很大时，因为会涉及到很多概率的乘积（这些概率可能是非常小的数）。为了简化计算，我们取似然函数的自然对数，得到对数似然函数（log-likelihood function）：

$$\ell (\theta )=\log L(\theta )=\sum _{i=1}^n\log P(x_i|\theta )$$

对数将乘积转换为和，这在计算上和分析上都更容易处理。

---

3. 负对数似然（NLL）

在参数估计中，我们的目标是找到能够最大化似然函数的参数值。这种方法被称为最大似然估计（MLE）。然而，在机器学习中的优化算法通常涉及的是最小化而非最大化。为了与这些算法保持一致，我们定义了负对数似然（NLL）：

$$\text{NLL}(\theta )=-\ell (\theta )=-\sum _{i=1}^n\log P(x_i|\theta )$$

最小化NLL等价于最大化对数似然，从而间接地最大化了似然函数。

---

4. NLL的推导

为了理解NLL是如何推导出来的，我们可以通过一个通用的例子来说明。

步骤1：定义似然函数

对于独立同分布的观测数据 $x_i$：

$$L(\theta )=\prod _{i=1}^{n}P(x_i|\theta )$$

步骤2：取对数，得到对数似然

$$\ell (\theta )=\log L(\theta )=\sum _{i=1}^n\log P(x_i|\theta )$$

步骤3：定义负对数似然

$$\text{NLL}(\theta )=-\ell (\theta )=-\sum _{i=1}^n\log P(x_i|\theta )$$

步骤4：构建优化问题

为了找到最佳的参数 ${\theta }^{\ast }$，我们最小化NLL：

$${\theta }^{\ast }=\arg \underset{\theta }{\min }\text{NLL}(\theta )$$

---

5. NLL的例子

例子1：高斯分布

假设每个数据点 $x_i$ 来自一个均值为 $\mu$，方差为 ${\sigma }^2$ 的高斯分布：

$$P(x_i|\mu ,{\sigma }^2)=\frac{1}{\sqrt{2\pi {\sigma }^2}}\exp \left(-\frac{(x_i-\mu {)}^2}{2{\sigma }^2}\right)$$

计算NLL：

1. 对数似然：

   $$\ell (\mu ,{\sigma }^2)=\sum _{i=1}^n\left(-\frac{1}{2}\log (2\pi {\sigma }^2)-\frac{(x_i-\mu {)}^2}{2{\sigma }^2}\right)$$

2. 负对数似然：

   $$\text{NLL}(\mu ,{\sigma }^2)=-\ell (\mu ,{\sigma }^2)=\frac{n}{2}\log (2\pi {\sigma }^2)+\frac{1}{2{\sigma }^2}\sum _{i=1}^n(x_i-\mu {)}^2$$

最小化：

• 为了找到最优的 $\mu$ 和 ${\sigma }^2$，我们对NLL分别对 $\mu$ 和 ${\sigma }^2$ 求偏导数，令其为0，求解。

例子2：伯努利分布

对于二元数据 x i ∈ { 0 , 1 } x_i \in \{0,1\} xi​∈{0,1}，其成功概率为 $p$：

$$P(x_i|p)=p^{x_i}(1-p{)}^{1-x_i}$$

计算NLL：

$$\text{NLL}(p)=-\sum _{i=1}^n\left(x_i\log p+(1-x_i)\log (1-p)\right)$$

最小化：

• 类似于高斯分布的情况，我们对NLL对 $p$ 求导，令其为0，求解 $p$。

---

6. NLL在机器学习中的应用

作为损失函数

在机器学习模型中，特别是在分类任务中，NLL常常作为训练过程中要最小化的损失函数。

• 二分类（逻辑回归）： 使用从伯努利分布推导的NLL。
• 多分类（Softmax回归）： 使用从多项式分布推导的NLL，通常称为交叉熵损失。

优化算法

诸如梯度下降及其变体（如随机梯度下降、Adam等）使用NLL对模型参数的梯度来逐步更新参数。

---

7. 使用NLL的优势

• 凸性： 对于许多模型，NLL是一个凸函数，保证任何局部最小值都是全局最小值。
• 数值稳定性： 取对数可以避免非常小的概率导致的下溢问题。
• 加法性： 数据点的加和结构允许简单的mini-batch训练和并行计算。

---

8. 与交叉熵损失的关系

在分类任务中常用的交叉熵损失是NLL的特例。

对于真实标签 $y_i$ 和预测概率 ${\hat{y}}_i=P(y_i|\theta )$：

$$\text{交叉熵损失}=-\sum _{i=1}^n{y}_i\log {\hat{y}}_i$$

当 $y_i$ 是one-hot编码的向量，${\hat{y}}_i$ 是模型的预测概率时，这等同于NLL。

---

9. 使用NLL的实际步骤

1. 定义模型： 选择合适的概率分布（如高斯分布、伯努利分布、多项式分布）。
2. 计算似然函数： 根据模型写出 $P(x_i|\theta )$。
3. 推导NLL： 对似然函数取负对数。
4. 计算梯度： 求解 ${\nabla }_{\theta }\text{NLL}(\theta )$ 以用于优化算法。
5. 优化参数： 使用优化算法最小化NLL，得到最优参数。

---

10. 例子：训练一个逻辑回归模型

模型：

$$P(y_i=1|x_i,\theta )=\sigma ({\theta }^T{x}_i)=\frac{1}{1+e^{-{\theta }^T{x}_i}}$$

NLL：

$$\text{NLL}(\theta )=-\sum _{i=1}^n\left[y_i\log \sigma ({\theta }^T{x}_i)+(1-y_i)\log (1-\sigma ({\theta }^T{x}_i))\right]$$

梯度：

$${\nabla }_{\theta }\text{NLL}(\theta )=-\sum _{i=1}^n(y_i-\sigma ({\theta }^T{x}_i))x_i$$

优化：

• 使用梯度下降更新 $\theta$：

  $$\theta \leftarrow \theta -\eta {\nabla }_{\theta }\text{NLL}(\theta )$$

  其中 $\eta$ 为学习率。

---

结论

负对数似然（NLL）是统计建模和机器学习中的一个基本工具。通过将最大化似然问题转换为最小化NLL，我们可以利用强大的优化算法来有效地估计模型参数。理解如何推导和使用NLL是从事数据分析、统计学或机器学习工作的人必备的技能，因为它在许多模型和方法中起着关键作用。

---