KL loss

论文：Bounding box regression with uncertainty for accurate object detection
来源：CVPR 2019

1. Motivation

• 目标检测依赖于边界框回归来提高定位精度，而且通常只是直接预测出边界框偏移量，并未考虑边界框的不确定性。

• 边界框的不确定来通常来源于：（1）数据集标注的不确定性，如图a和图c所示。（2）遮挡所引入的不确定性：图b由于遮挡的存在，使得边界框预测的不确定性有所增加。（3）数据自身的不确定性，如图d。
  

• 本文考虑了边界框回归的不确定性，即，首先假设将边界框回归满足高斯分布，然后通过KL loss来学习高斯分布的标准差，并以标准差来衡量边界框回归的不确定性。

2. KL loss

2.1 符号定义

• $a=(x_{1a},y_{1a},x_{2a},y_{2a})$：anchor box坐标
• $w_a=x_{2a}-x_{1a}$：anchor box的宽
• $h_a=y_{2a}-y_{1a}$：anchor box的高
• $b^{\star }=(x_1^{\star },y_1^{\star },x_2^{\star },y_2^{\star })$：GT框坐标
• $b=(x_1,y_1,x_2,y_2)$：预测框坐标
• $t^{\star }=(t_{x1}^{\star },t_{y1}^{\star },t_{x2}^{\star },t_{y2}^{\star })$：训练标签
  $$t_{x1}^{\star }=(\frac{x_1^{\star }-x_{1a}}{w_a}),t_{y1}^{\star }=(\frac{y_1^{\star }-y_{1a}}{h_a}),t_{x2}^{\star }=(\frac{x_2^{\star }-x_{2a}}{w_a}),t_{y2}^{\star }=(\frac{y_2^{\star }-y_{2a}}{h_a})$$
• $t=(t_{x1},t_{y1},t_{x2},t_{y2})$：网络输出值
  $$t_{x1}=(\frac{x_1-x_{1a}}{w_a}),t_{y1}=(\frac{y_1-y_{1a}}{h_a}),t_{x2}=(\frac{x_2-x_{2a}}{w_a}),t_{y2}=(\frac{y_2-y_{2a}}{h_a})$$

2.2 高斯分布

• 为方便表述，记 x ∈ { x 1 , y 1 , x 2 , y 2 } x\in \{x_1,y_1,x_2,y_2\} x∈{x1​,y1​,x2​,y2​}，假设边界框的每个坐标均独立服从高斯分布，则
  
  其中，$x_e$是高斯分布的均值，表示对边界框位置的估计；$\sigma$是高斯分布的标准差，其表示对边界框估计的不确定性，$\sigma$越大，表示边界框估计的不确定性越大。

• 由于只需要边界框的不确定性，所以对网络添加一个分支，该分支输出4维的标准差，分别表示对4个边界框坐标进行估计的不确定性。

• GT框也可以表示为服从高斯分布，此时$\sigma =0$，所以GT框的坐标服从Dirac delta distribution
  
  其中，$x_g$表示GT框的真实坐标。

2.3 Bounding Box Regression with KL Loss

• 边界框回归的目标是令边界框的理论分布$P_{\Theta }(x)$去拟合真实分布$P_D(x)$，因此可由KL散度来度量这两个分布的差异程度，即
  
  因此，可使用KL loss作为边界框回归损失：
  
  忽略常数项，得到
  
  可以看出，当$\sigma =1$，KL loss退化成L2 loss
  
  分别对$x_e$和$\sigma$求导得，
  
  由于$\sigma$在分母，在训练初期$\sigma$很小，所以可能会出现梯度爆炸，所以不能令网络直接输出$sigma$，重新调整网络输出为$\alpha =log({\sigma }^2)$，此时损失函数为
  
  在测试阶段，将网络输出的$\alpha$重新转换成$\sigma$。
  另外，为减小该损失函数对于异常点的敏感性，借助Smooth L1 loss，当$|x_g-x_e|>1$时，令
  
• $x_g$是真实标签，$\alpha$由新添加的网络分支得到，那么$x_e$从哪来呢？实际上$x_e$就是原来的回归分支所输出的坐标偏移量的预测值经过转化后得到的预测坐标。从概率论的角度讲，一个随机事件得到某个结果，那么该结果对应的概率是最大的。而高斯分布中，均值出对应的概率是最大的，所以把输出坐标作为高斯分布的均值是合理的，这也是只需要新添加一个标准差分支的原因。

2.4 Variance Voting

• 目前已经得到边界框定位的不确定性，如何使用这种不确定性来调整边界框，成为接下来所要研究的重点问题。边界框的不确定性处理影响自身的定位，由于NMS的存在，还会影响附近其它边界框的定位，所以在进行NMS时，应考虑这种不确定性带来的影响。
• 假设网络共输出：$N$个边界框 B = { b 1 , . . . , b N } ∈ R N × 4 B=\{b_1,...,b_N\}\in R^{N\times4} B={b1​,...,bN​}∈RN×4，$N$个边界框的分数 S = { s 1 , . . . , s N } ∈ R N S=\{s_1,...,s_N\}\in R^{N} S={s1​,...,sN​}∈RN，$N$个边界框的方差 C = { σ 1 2 , . . . , σ N 2 } ∈ R N × 4 C=\{\sigma_1^2,...,\sigma_N^2\}\in R^{N\times4} C={σ12​,...,σN2​}∈RN×4。
• 假设在soft-NMS的某一轮迭代中分数最高的边界框为
  b = { x 1 , y 1 , x 2 , y 2 , s , σ x 1 , σ y 1 , σ x 2 , σ y 2 } b=\{x_1,y_1,x_2,y_2,s,\sigma_{x_1},\sigma_{y_1},\sigma_{x_2},\sigma_{y_2}\} b={x1​,y1​,x2​,y2​,s,σx1​​,σy1​​,σx2​​,σy2​​}则该边界框的某个坐标 x ∈ { x 1 , y 1 , x 2 , y 2 } x\in \{x_1,y_1,x_2,y_2\} x∈{x1​,y1​,x2​,y2​}会根据以下3个方面来重新调整：
  （1）自身的不确定性
  （2）附近其它边界框与该边界框的IoU
  （3）附近其它边界框的不确定性。
  调整后的新坐标为：
  $$x=\frac{{\sum }_i{p}_i{x}_i}{{\sum }_i{p}_i}$$$$p_i=\frac{w_i}{{\sigma }_{x,i}^2}$$$$w_i=exp(-\frac{(1-IoU(b_i,b){)}^2}{{\sigma }_t})$$$$subjecttoIoU(b_i,b)>0$$其中，${\sigma }_t$是可调超参数。由上述公式可知，“附近其它边界框”指与目标边界框$b$有重叠区域(IoU>0)的边界框，且公式中的$b_i$包含了$b$。
• $p_i$表示各个边界框（目标边界框+附近其它边界框）对目标边界框的影响程度。
• 根据这些边界框与目标边界框的IoU大小计算$w_i$，$w_i$就是soft-NMS中提出的高斯re-scoring function，重叠面积越大，$w_i$越大，附近边界框对目标边界框的影响也越大。
• 当$b_i=b$时，$IoU=1$，$w_i=1$，此时${\sigma }_{x,i}^2$表示自身的不确定性，不确定性越大，则新坐标受原坐标的影响越小，而受其它边界框的影响就越大。
• 其它边界框的${\sigma }_{x,i}^2$越小，对目标边界框的影响就越大。
• 如果预测得不准确，此时应该让不确定性更大，loss会增加。
  

3. 实验