#今日论文推荐# PolyLoss | 统一CE Loss与Focal Loss,PolyLoss用1行代码+1个超参完成超车
Cross-entropy loss
和Focal loss
是在训练深度神经网络进行分类问题时最常见的选择。然而,一般来说,一个好的损失函数可以采取更灵活的形式,并且应该为不同的任务和数据集量身定制。
通过泰勒展开来逼近函数,作者提出了一个简单的框架,称为PolyLoss
,将损失函数看作和设计为多项式函数的线性组合。PolyLoss
可以让Polynomial bases
(多项式基)的重要性很容易地根据目标任务和数据集进行调整,同时也可以将上述Cross-entropy loss
和Focal loss
作为PolyLoss
的特殊情况。
大量的实验结果表明,在PolyLoss
内的最优选择确实依赖于任务和数据集。只需引入一个额外的超参数和添加一行代码,PolyLoss
在二维图像分类、实例分割、目标检测和三维目标检测任务上都明显优于Cross-entropy loss
和Focal loss
。
论文题目:PolyLoss: A Polynomial Expansion Perspective of Classification Loss Functions
详细解读:https://www.aminer.cn/research_report/626b55df7cb68b460fabbc01?download=falsehttps://www.aminer.cn/research_report/626b55df7cb68b460fabbc01?download=false
AMiner链接:https://www.aminer.cn/?f=cs