Hinge Loss

• Hinge Loss
  转载：https://zhuanlan.zhihu.com/p/35708936

函数特性
在机器学习中，hinge loss是一种损失函数，它通常用于"maximum-margin"的分类任务中，如支持向量机。数学表达式为：

其中 $\hat{y}$表示预测输出，通常都是软结果（就是说输出不是0，1这种，可能是0.87。）， $y$表示正确的类别。
如果 $\hat{y}y<1$，则损失为： $1-\hat{y}y$
如果 $\hat{y}y>1$ ，则损失为：0

其函数图像如下，与0-1损失对比：

优化
以支持向量机为例，其模型为： $\hat{y}=w\cdot x$，如果用hinge损失，其求导结果如下：

---

注：博众家之所长，集群英之荟萃。