Focal Loss的作用:主要是为了解决目标检测任务中类别不平衡问题。
Focal Loss应用一个调制项到交叉熵损失函数上,以集中学习困难的负面例子。
通过使用缩放因子(scaling factor)控制交叉熵损失的动态缩放。缩放因子随着正类别的置信度增加,缩放因子衰减为零。
直观看来,该缩放因子可自动降低训练过程中Easy example的权重,并快速将模型集中在难样本(hard example)上。
公式表达上,Focal Loss为标准交叉熵标准增加了一个因子。设置
降低分类较好的样本损失(well-classified examples)
,将更多的注意力放在困难样本(hard,misclassified examples)上。公式中,可微调的参数为
,Focal Loss表达如下:
论文来源:Introduced by Lin et al. in Focal Loss for Dense Object Detection