0-1盈余损失的缺点是对于真实值1,预测值小于等于1时,损失都是相同。但预测值若是0.8,明显比预测值-800更接近真实值1。因此,合页损失Hinge Loss,进一步量化了预测错误的程度。它的核心点如下:
(1) 对于真实值1,若预测值∈[ 1, ∞],预测正确,否则预测错误。
(2) 对于真实值-1,若预测值∈[ -∞, -1],预测正确,否则预测错误。
(3) 预测正确时,损失函数值为0;预测错误时,预测值离真实值越远,损失越大。
- 公式
单个样本点的损失:
l
o
s
s
=
{
0
,
f
(
x
i
)
⋅
y
i
>
1
1
−
f
(
x
i
)
⋅
y
i
,
f
(
x
i
)
⋅
y
i
≤
1
loss =\left\{\begin{array}{ll}{0,} & {f(x_{i}) \cdot y_{i}>1} \\ {1-f(x_{i}) \cdot y_{i},} & {f(x_{i}) \cdot y_{i} \leq 1}\end{array}\right.
loss={0,1−f(xi)⋅yi,f(xi)⋅yi>1f(xi)⋅yi≤1
也可以写成:
l
o
s
s
=
max
(
0
,
1
−
f
(
x
i
)
⋅
y
i
)
loss = \max \left(0,1-f(x_{i}) \cdot y_{i}\right)
loss=max(0,1−f(xi)⋅yi)
全局损失:
L
o
s
s
=
∑
i
=
1
n
l
o
s
s
i
Loss=\sum_{i=1}^{n}loss_{i}
Loss=i=1∑nlossi