深度学习【17】物体检测：Focal Loss 反向求导及darknet上的实现

Focal Loss 反向求导及darknet上的实现

Focal Loss 可以解决不平衡分类问题，是在交叉熵损失函数上的扩展。详见，论文：Focal Loss for Dense Object Detection。
该文，主要推导FL在softmax函数下的求导，以及记录在darknet上的实现。

FL损失函数如下：

$$FL(p_t)=-\alpha(1-p_t)^{\gamma}log(p_t)$$
其中 $p_t$为：
$$p_t= \begin{cases} p, & \text {if $y==1$ } \\\ 1-p, & \text{otherwise } \end{cases}$$

softmax公式：

$$p_i=\frac{e^{x_i}}{\sum e^k}$$

我们的目标得到x对FL的导数：

$$\frac{dFL}{dx_i}=\frac{dFL}{dp_i}*\frac{dp_i}{dx_i}$$

又，

dFLdpt