【阅读笔记】Gradient Harmonized Single-stage Detector

Li B , Liu Y , Wang X . Gradient Harmonized Single-stage Detector[J]. 2018.
https://github.com/libuyu/GHM_Detection

本文认为影响单阶段检测器的训练的本质问题不是不同类别的样本数的差异，而是不同难度样本的分布不均衡。在训练过程中，每个样本产生一个梯度来更新模型的参数，不同样本对参数更新的贡献不同。在训练过程中，模型已经有很好的判别的简单样本的数量非常大，在模型更新中很有可能占据主导作用，那么这样的参数更新并不会改善模型的判断能力，反而使整个训练变得非常低效。为了解决这个问题，作者设计了梯度均衡机制（Gradient Harmonizing mechanism）。

Gradient Harmonizing Mechanism

我们定义每个样本的对 loss 求得的梯度的模值为$g$，定义 gradient density 为
$$GD(g)=\frac{1}{l_{ϵ}(g)}\sum _{k=1}^N{\delta }_{ϵ}(g_k,g)$$

$${\delta }_{ϵ}(x,y)=\{\begin{array}{l}1,ify-\frac{ϵ}{2}\le x\le y+\frac{ϵ}{2}\\ 0,else\end{array}$$

$$l_{ϵ}(g)=min(g+\frac{ϵ}{2},1)-max(g-\frac{ϵ}{2},0)$$

定义 gradient density harmonizing parameter：
$${\beta }_i=\frac{N}{GD(g_i)}$$

根据归一化系数得到 GHM-C Loss：
$$\begin{gathered} Los{s}_{GHM-C}=\frac{1}{N}\sum _{i=0}^N{\beta }_i\ast los{s}_i \\ =\sum _{i=0}^N\frac{los{s}_i}{GD(g_i)} \end{gathered}$$

我的理解是模型很容易就被训练到容易识别简单样本的情形，利用 GHM-C Loss 将简单样本和 outlier 的梯度贡献减少，提高训练效率，减小 outlier 的影响。

AP 确实有所上升