2021-03-15

RetinaNet&FocalLoss

原文：https://zhuanlan.zhihu.com/p/59910080

Focal Loss
Focal loss是在交叉熵损失函数基础上进行的修改
二分类交叉上损失：

FocalLoss:

RetinaNet

这个结构要注意几点：
1.训练时FPN每一级的所有example都被用于计算Focal Loss，loss值加到一起用来训练;
2.测试时FPN每一级只选取score最大的1000个example来做nms；
3.整个结构不同层的head部分(图２的c和d部分)共享参数，但分类和回归分支间的参数不共享;
4.分类分支的最后一级卷积的bias初始化成前面提到的
π在论文中取0.01 公式值为-1.9956

第4点在CenterNet中偏置的初始化也可见到，不过值和这里的略有不同。

      if 'hm' in head:
        fc[-1].bias.data.fill_(-2.19)