【常用损失函数】

一、Smooth L1 Loss

    1.公式：

     

    2.原因：

    L1损失使权值稀疏但是导数不连续，L2损失导数连续可以防止过拟合但对噪声不够鲁棒，分段结合两者优势。

二、Focal Loss

   1.公式：

   

   2.作用：

          使得正负样本平衡的同时，难分和易分样本的比重不同，更易分。 

三、交叉熵损失

     1.公式：

     

     2.平衡交叉熵损失

        

四、Dice Loss

     1.公式：（类似于交并比）

      

五、平方损失

   1.适用

    用于线性回归中。

六、hinge损失（铰链损失）

    1.公式：

    

     2.适用：

     主要用于SVM中。SVM损失是hinge损失和L2正则损失的和。

七、指数损失

  1.适用

   用于adaboost中。

八、0/1损失

对应方法：

 

   1.Faster RCNN:cls+loc=交叉熵损失+smooth L1损失

   2.YOLO:平方损失

   3.SSD:cls+loc=交叉熵损失+smooth L1损失

   4.EAST:cls+角度+loc=平衡交叉熵损失+cos损失+log交并比损失

分类：

   交叉熵损失、focal loss、指数损失、hinge损失

回归：

   平方损失、smooth L1损失、交并比损失、Dice 损失

 

   

 

转载于:https://www.cnblogs.com/EstherLjy/p/9346249.html