论文地址:https://arxiv.org/pdf/2103.09488.pdf
摘要:检测任务一般包含分类和回归两个loss,如何调整这两个任务的loss-weigt是一个问题?此外,loss-weight是否应该随着回归loss类型的变换而变换(L1 vs Smooth L1 vs CIOU vs GIOU etc.),这也是一个问题?
论文发现了三个现象(或者结论)
- 分类任务loss收敛曲线快于回归任务。
- loss-weigt小于1(假设分类任务的loss-weigth=1)。
- 分类任务和回归任务的loss-weigt不应该过大。
论文提出了Adaptive Loss Weight Adjustment(ALWA),该方法在训练过程中,根据loss的统计特性来动态调整loss-weight。论文在one-stage和two-stage上都做了实验,VOC+COCO, L1, SmoothL1 and CIoU loss。