【总结】深度学习中的LOSS

【总结】深度学习中的损失函数

1. 铰链损失/合页损失 Hinge Loss

SVM常用损失函数

• 函数表达式
  $L(y,f(x))=max(0,1-y\cdot f(x))$

• 函数图像
  
  通过上图可知，当$y\cdot f(x)>1$时，$loss=0$；否则，$loss=1-y\cdot f(x)$。也就是说，只有被正确分类的时候，loss才为0。

2. 交叉熵 Cross-entropy Loss

（1）用于二分类

表示样本abel与预测值为正类概率的关系

• 函数表达式
  C = − 1 N ∑ i [ y i l n ( p i ) +