logloss详解

引言

logloss是基于概率的最重要的分类度量。

很难解释原始的对数损失值，但logloss仍然是比较模型的一个好指标。对于任何给定的问题，较低的对数损失值意味着更好的预测。

对数损失是对似然函数的一种轻微扭曲。实际上，对数损失是-1*似然函数的对数。所以，我们将从理解似然函数开始。

似然函数回答了“模型认为实际观察到的结果集的可能性有多大”的问题。如果这听起来令人困惑，举个例子应该会有所帮助。

举例

一个模型预测了三栋房子的概率为[0.8,0.4,0.1]。前两套房子卖了，最后一套没有卖。所以实际结果可以用[1，1，0]来表示。

让我们一步一步地通过这些预测来迭代计算似然函数。

第一套房子卖了，模型说有80%的可能。所以，看一个预测后的似然函数是0.8。第二套房子卖了，模特说有40%的可能。

有一个概率法则，即多个独立事件的概率是它们各自概率的乘积。所以，我们将前两个预测的概率相乘，得到它们的组合概率。也就是0.8*0.4，正好是0.32。

现在我们进入第三个预测。那房子卖不出去。该模型表示，有10%的可能会卖出。这意味着90%的可能性不会卖出。因此，根据该模型，观察到的不卖的结果有90%的可能性。所以，我们把之前的结果0.32乘以0.9。我们可以逐步完成我们所有的预测。每次我们找到与实际发生的结果相关联的概率，然后我们将其乘以之前的结果。这是可能的。

从可能性到对数损失

每个预测值都在0和1之间。如果你在这个范围内乘以足够多的数字，结果会变得非常小，以至于计算机无法跟踪它。所以，作为一个聪明的计算技巧，我们反而跟踪可能性的对数。这是一个易于跟踪的范围。我们将其乘以-1，以保持一个共同的惯例，即损失分数越低越好。