Hinge Loss简介
标准Hinge Loss
- Hinge本身是用于分类的Loss,给定Label y = ± 1 y=\pm 1 y=±1
- 这个Loss的目的是让预测值 y ^ ∈ R \hat{y} \in R y^∈R和 y y y相等的时候,返回0,否则返回一个线性值
- 基于2的需求,Hinge Loss的定义: L ( y ^ ) = m a x ( 0 , 1 − y ⋅ y ^ ) L(\hat{y}) = max(0, 1-y \cdot \hat{y}) L(y^)=max(0,1−y⋅y^)。当 y y y和 y ^ \hat{y} y^相等,Loss等于0,下面是分类讨论。对应的图像如下图所示:
- y = 1,那么 1 − y ⋅ y ^ = 1 − y ^ 1-y \cdot \hat{y} = 1 - \hat{y} 1−