损失函数——负对数似然

阅读本文可以了解如下内容：

1. 似然
2. 似然估计
3. 对数似然
4. 负对数似然

1. 似然

在开始之前需要区分一个知识：似然(likelihood)和概率(probability)。概率是一个事件发生的可能性，而似然指的是影响概率的未知参数。也就是说，概率是在该未知参数已知的情况下所得到的结果；而似然是该参数未知，我们需要根据观察结果，来估计概率模型的参数。

用数学方法可以描述为：
假设$X$是离散随机变量，其概率质量函数$p$依赖于参数$\theta$，则：
$$L(\theta |x)=p_{\theta }(x)=P_{\theta }(X=x)$$
其中$L(\theta |x)$为参数$\theta$的似然函数，$x$为随机变量$X$的某一值。¹

如果我们发现：
$$L({\theta }_1|x)=P_{{\theta }_1}(X=x)>P_{{\theta }_2}(X=x)=L({\theta }_2|x)$$
那么似然函数就可以反映出这样一个朴素推测：在参数${\theta }_1$下随机变量$X$取到$x$的可能性大于在参数${\theta }_2$下随机向量$X$取到$x$的可能性。换句话说，我们更有理由相信，相对于${\theta }_2$，${\theta }_1$更有可能是该概率模型的真实参数。²

综上，概率(密度)表达给定$\theta$下样本随机向量$X=x$的可能性，而似然表达了给定样本$X=x$下参数${\theta }_1$(相对于另外的参数${\theta }_2$)为真实值的可能性。我们总是对随机变量的取值谈概率，而在非贝叶斯统计的角度下，参数是一个实数而非随机变量，所以我们一般不谈一个参数的概率。

2. 最大似然估计(Maximum Likelihood Estimation, MLE)

假设我们有一个非常复杂的数据分布$P_{data}(x)$，但是我们不知道该分布的数学表达形式，所以我们需要定义一个分布模型$P_G(x;\theta )$，该分布由参数$\theta$决定。
我们的目标是求得参数$\theta$使得定义的分布$P_G(x;\theta )$尽可能的接近$P_{data}(x)$。

下面我们来看看最大似然估计如何操作：

1. 从$P_{data}(x)$中采集m个样本$x_1,x_2,...,x_m$
2. 计算样本的似然函数$L={\prod }_{i=1}^m{P}_G(x^i;\theta )$
3. 求使得似然函数$L$最大的参数$\theta$:${\theta }^{\ast }=\arg {\max }_{\theta }{\prod }_{i=1}^m{P}_G(x^i;\theta )$

当来自$P_{data}(x)$的样本$x_1,x_2,...,x_m$在$P_G(x;\theta )$分布模型出现的概率越高，也就是${\prod }_{i=1}^m{P}_G(x^i;\theta )$越大，$P_G(x;\theta )$和$P_{data}(x)$越接近。³

3. 对数似然

在知道了最大似然估计之后就容易理解对数似然了。从公式可以看到，似然函数是很多个数相乘的形式：$L={\prod }_{i=1}^m{P}_G(x^i;\theta )$。
然而很多数相乘并不容易计算，也不方便求导。如果我们对它取对数，连乘就会变成连加，计算起来要方便的多，求导也变得更加容易。
$$l(\theta )=\sum _{i=1}^m\log (P_G(x^i;\theta ))$$
这样一来就变成了我们非常熟悉的求极值过程，$\theta$为自变量，我们需要找到某一个$\theta$，使得$l(\theta )$最大。只需对$\theta$求导然后令导数等于0即可。
最大似然估计的一般步骤如下:
(1) 写出似然函数;
(2) 对似然函数取对数,得到对数似然函数;
(3) 求对数似然函数的关于参数组的偏导数,并令其为0,得到似然方程组;
(4) 解似然方程组,得到参数组的值。

4. 负对数似然(Negative log-likelihood, NLL)¹

由于对数似然是对概率分布求对数，概率$P(x)$的值为$[0,1]$区间，取对数后为$(-\infty ,0]$区间。再在前面加个符号，变成$[0,\infty )$区间。
$$l(\theta )=-\sum _{i=1}^m\log (P_G(x^i;\theta ))$$
**写到这你有没有发现，这个公式不就是交叉熵吗？**只是少了一项$p(x_i)$，但是真实标签的概率为1，所以省掉了。
关于交叉熵的理解可以参考我的另一篇博客。

我们期望似然估计越大越好，取完负号之后就是负对数似然越小越好，因此负对数似然函数可以作为损失函数。

Pytorch中对应的负对数似然损失函数为：

torch.nn.NLLLoss(weight=None, size_average=None, ignore_index=-100, reduce=None, reduction='mean')

值得注意的是，在使用该损失函数的时候并不需要将标签转换成one-hot形式，c类标签，就用c-1个数表示即可。
输入与输出数据的形状：

• input: (N,C)
• output:(N)
  其中N为batch size，C为分类数量。假设batch size为3，有5个类别。我们用一段代码看看torch.nn.NLLLoss()如何使用：

>>> import torch
>>> m = torch.nn.LogSoftmax(dim=1)
>>> loss = torch.nn.NLLLoss()
>>> input = torch.randn(3,5,requires_grad=True)
>>> input
tensor([[ 0.1076, -1.4376, -0.6307,  0.6451, -1.5122],
        [ 1.5105,  0.7662, -1.7587, -1.4581,  1.1357],
        [-1.4673, -0.5111, -0.0779, -0.7404,  1.4447]], requires_grad=True)
>>> target = torch.tensor([1, 0, 4])
>>> output = loss(m(input), target)
>>> output.backward()

计算结果为：

tensor(1.3537)

实际上这段代码计算的是交叉熵，因为在pytorch交叉熵的官方文档中写道⁴：

This criterion (CrossEntropyLoss) combines LogSoftmax and NLLLoss in one single class.

它先将输入经过log softmax函数，得到一个输出：

>>> data = nn.LogSoftmax(dim=1)(input)
>>> data
tensor([[-1.2812, -2.8264, -2.0195, -0.7437, -2.9010],
        [-0.8118, -1.5561, -4.0810, -3.7804, -1.1866],
        [-3.3349, -2.3787, -1.9455, -2.6080, -0.4229]])

然后根据负对数似然估计的公式，得到如下等式：
$Loss=-(-2.8264-0.8118-0.4229)/3=1.3537$
和函数计算结果相同。

值得注意的是，nn.NLLLoss()函数虽然叫负对数似然损失函数，但是该函数内部并没有像公式里那样进行了对数计算，而是在激活函数上使用了nn.LogSoftmax()函数，所以nn.NLLLoss()函数只是做了求和取平均然后再取反的计算，在使用时要配合logsoftmax函数一起使用，或者直接使用交叉熵损失函数。

---

1. 负对数似然(negative log-likelihood) ↩︎ ↩︎

2. 如何理解似然函数 ↩︎

3. 如何通俗地理解概率论中的「极大似然估计法」? ↩︎

4. torch.nn.CrossEntropyLoss ↩︎