Focal Loss和RetinaNet

RetinaNet

RetinaNet是2018年Facebook AI团队在目标检测领域的新的贡献。

RetinaNet是什么

RetinaNet只是原来FPN网络与FCN网络的组合应用，因此在目标网络检测框架上它并无特别亮眼创新。文章中最大的创新来自于Focal loss的提出及在单阶段目标检测网络RetinaNet（实质为Resnet + FPN + FCN）的成功应用。Focal loss是一种改进了的交叉熵(cross-entropy, CE)loss，它通过在原有的CE loss上乘了个使易检测目标对模型训练贡献削弱的指数式，从而使得Focal loss成功地解决了在目标检测时，正负样本区域极不平衡而目标检测loss易被大批量负样本所左右的问题。此问题是单阶段目标检测框架（如SSD/Yolo系列）与双阶段目标检测框架（如Faster-RCNN/R-FCN等）accuracy gap的最大原因。在Focal loss提出之前，已有的目标检测网络都是通过像Boot strapping/Hard example mining等方法来解决此问题的。作者通过后续实验成功表明Focal loss可在单阶段目标检测网络中成功使用，并最终能以更快的速率实现与双阶段目标检测网络近似或更优的效果。

Focal Loss 又是什么

Focal loss 是 文章 Focal Loss for Dense Object Detection 中提出对简单样本的进行decay的一种损失函数。是对标准的Cross Entropy Loss 的一种改进。 F L对于简单样本（p比较大）回应较小的loss（也是对简单样本的一种decay）。其中alpha 是对每个类别在训练数据中的频率有关。

• CE(cross-entropy) loss
  以下为典型的交叉熵loss，它广泛用于当下的图像分类、检测CNN网络当中。
  
• Focal_loss定义
  

RetinaNet检测框架

RetinaNet本质上是Resnet + FPN + 两个FCN子网络。
以下为RetinaNet目标框架框架图。有了之前blog里面提到的FPN与FCN的知识后，我们很容易理解此框架的设计含义。

一般主干网络可选用任一有效的特征提取网络如vgg16或resnet系列，此处作者分别尝试了resnet-50与resnet-101。而FPN则是对resnet-50里面自动形成的多尺度特征进行了强化利用，从而得到了表达力更强、包含多尺度目标区域信息的feature maps集合。最后在FPN所吐出的feature maps集合上，分别使用了两个FCN子网络（它们有着相同的网络结构却各自独立，并不share参数）用来完成目标框类别分类与位置回归任务。

如何评价Focal Loss

可参考知乎：知乎：如何评价Kaiming的Focal Loss for Dense Object Detection？

复现代码

基于pytorch的RetinaNet：https://github.com/kuangliu/pytorch-retinanet

展望与想法

引用博主JNingWei的话：

• focal loss的提出就像海面上的冰山。虽然看起来只是一个公式（冰山一角），但其实是来源于FAIR对于类别不平衡根本原因的深刻洞察和分析（海平面下的部分）。

• 指出问题的意义远大于解决问题。focal loss很简单，但却是它第一个洞察到了one-stage detector的accuracy不高的问题根源在于“类别不平衡”。

• RetinaNet就是一个FPN-based的one-stage detector，靠着最后面的focal loss来解决由于过量background而引起的类别不平衡。

参考以下：
RetinaNet: Focal loss在目标检测中的应用
知乎：如何评价Kaiming的Focal Loss for Dense Object Detection？
论文阅读: RetinaNet
Focal Loss 的Pytorch 实现以及实验
Focal Loss + Deformable Convolutional论文阅读