focal loss 里面的为什么

一、为什么alpha值正样本的权重比负样本还要小？

首先来看公式：

我们知道alpha 是用来平衡正负样本的，而论文里面的给的alpha=0.25 ，而真实正负样本的比例在1000：1以上，作者反而缩小正样本的损失，why?

在自己应用到其他场景的情况下，发现结果不仅如人意，后面将正负样本的损失分开可视化来看

 

通过上图可以发现正样本的损失要远大于负样本的损失 why?

这里主要是因为分类卷积的初始化，论文里把所有样本概率初始化为0.01，而负样本的损失-（0.01）**2*log(1-0.01)=1e-6

所以负样本的在初始化的时候损失是非常小的，pytorch初始化如下

self.class_model[-1].bias.data.fill_(-math.log((1-0.01)/0.01))

所以这里的参数仅仅适合这个场景，如果有其他需求还需要自己定制化