SMOKE: Single-Stage Monocular 3D Object Detection via Keypoint Estimation 论文笔记

SMOKE: Single-Stage Monocular 3D Object Detection via Keypoint Estimation 论文笔记

论文链接： https://arxiv.org/abs/2002.10111

一、 Problem Statement

目前的单目3D视觉中，通常非常依赖于RCNN网络或者RPN网络，然后会多加一个分支去学习3D信息或者产生伪激光雷达，然后将它们放入点云检测网络中。作者认为2D检测网络是冗余的，且对3D目标检测来说引入了不可忽视的噪声，导致学习3D几何信息困难。作者且认为，如果3D信息和相机内参矩阵已经知道，2D信息可以很自然地得到。

二、 Direction

提出了一个multi-step disentangling(to separate different ideas or pieces of information that have become confused together) 的方法, 即消除2D检测分支，添加一个3D回归分支，直接在图片上预测3D点，也就是一个关键点和3D变量组成3D bounding box。

三、 Method

所谓的单目3D目标检测问题，可以认为是：给定了一个RGB图像$I\in {\mathbb{R}}^{W\times H\times 3}$，找到类别$C$和3D Bounding Box，后者可以表达为$(h,w,l,x,y,z,\theta )$。

由上图可以知道，SMOKE分为三个部分:

• Backbone
• 3D detection
• Loss function

1. Backbone

作者使用了DLA-34作为Backbone，其可以融合不同层之间的信息。但作者做了一些修改：

• 使用Deformable Convolution Network替换所有的hierarchical aggregation connections。
  

• 使用GN层替换所有的BN层。（对Batch Size less sensitive且对training noise更加鲁棒）
  

• 输出特征图是相对于输入图像的4倍下采样。

2. 3D 检测网络

检测网络总共有两个分支：

• Keypoint Branch
• Regression Branch

(1) Keypoint Branch

这一部分和CenterNet相似，也就是将目标用一个点表示。但这里不是检测2D Bounding Box的中心点，而是将目标的3D中心映射到2D平面。 如下图所示:

作者这样做的目的是因为投影的点能够很好的恢复3D位置。假设$[x,y,z{]}^T$是每个目标的3D中心，那么投影到2D平面的3D点为$[x_c,y_c{]}^T$，这是由相机内参矩阵$K$得到的:
$$\left[\begin{array}{rl}z& \cdot x_c\\ z& \cdot y_c\\ & z\end{array}\right]=K_{3\times 3}\left[\begin{array}{r}x\\ y\\ z\end{array}\right]$$

每个点对应的ground-truth keypoint，就是它们下采样后特征图中的位置，然后使用Gaussian Kernel分布。每一个在图像上的3D点都是由8个2D点所对应$[x_{b,1\sim 8},y_{b,1\sim 8}{]}^T$，且标准差通过包围3D Box的最小2D box { x b m i n , y b m i n , x b m a x , y b m a x } \{x_b^{min}, y_b^{min}, x_b^{max}, y_b^{max}\} {xbmin​,ybmin​,xbmax​,ybmax​}计算。

(2) Regression Branch

作者对每一个在heatmap上的关键点预测了一个8维度的变量来构建3D Bounding Box，$\tau =[{\delta }_z,{\delta }_{x_e},{\delta }_{y_e},{\delta }_h,{\delta }_w,{\delta }_l,\sin \alpha ,\cos \alpha {]}^T$。其中，${\delta }_z$表示深度的偏差；${\delta }_{x_e},{\delta }_{y_e}$表示下采样导致的离散化偏差；${\delta }_h,{\delta }_w,{\delta }_l$表示边的维度；$\sin \alpha ,\cos \alpha$是偏航角$\alpha$的矢量表示。因此，回归的大小是$S_r\in {\mathbb{R}}^{\frac{H}{R}\times \frac{W}{H}\times 8}$ 。收到lifting transformation的启发，作者引入了类似的变换$F$，用来转换投影的3D点到3D Bounding Box
$$B=F(\tau )\in {\mathbb{R}}^{3\times 8}$$

对于深度$z$，它是由预先定义的尺度和偏移参数${\sigma }_z,{\mu }_z$计算得到的:
$$z={\mu }_z+{\delta }_z{\sigma }_z$$

所以，有了深度$z$之后，与它投影的中心$[x_c,y_c{]}^T$和下采样偏差$[{\delta }_{x_e},{\delta }_{y_e}]$相结合，就可以得到3D坐标点:
$$\left[\begin{array}{r}x\\ y\\ z\end{array}\right]=K_{3\times 3}^{-1}\left[\begin{array}{rl}z& \cdot (x_c+{\delta }_{x_e})\\ z& \cdot (y_c+{\delta }_{y_e})\\ & z\end{array}\right]$$
而3D Bounding Box的长宽高，$[h,w,l]$，作者使用预先计算好整个数据集的category-wise average dimension$[\bar{h},\bar{w},\bar{l}]$来计算。

$$\left[\begin{array}{r}h\\ w\\ l\end{array}\right]=\left[\begin{array}{r}\bar{h}\cdot e^{{\delta }_h}\\ \bar{w}\cdot e^{{\delta }_w}\\ \bar{l}\cdot e^{{\delta }_l}\end{array}\right]$$

我们选择回归观测角度$\alpha$，而不是偏航角$\theta$。

所以，偏航角为:

$$\theta ={\alpha }_z+\arctan (\frac{x}{z})$$

最后3D Bounding Box的8个角点为：

$$B=R_{\theta }\left[\begin{array}{r}\pm h/2\\ \pm w/2\\ \pm l/2\end{array}\right]+\left[\begin{array}{r}x\\ y\\ z\end{array}\right]$$

3. 损失函数

整体的Loss Function为：
$$L=L_{cls}+\sum _{i=1}^3{L}_{reg}({\hat{B}}_i)$$

(1) Keypoint Classification Loss

这一部分使用的是penality-reduced focal loss。可以从网络框架图中看到，粉红色的大小为:$\frac{H}{4}\times \frac{W}{4}\times C$，其中$C$代表C个类别，也就是每个类别有一个keypoint loss。假设$s_{i,j}$是heatmap中位置$(i,j)$预测的值，然后$y_{i,j}$为Gaussian Kernel中每个点的ground-truth值。

$${\hat{y}}_{i,j}=\{\begin{array}{rl}& 0,if{y}_{i,j}=1\\ & y_{i,j},otherwise\end{array},{\hat{s}}_{i,j}=\{\begin{array}{rl}& s_{i,j},if{y}_{i,j}=1\\ & 1-s_{i,j},otherwise\end{array}$$

因此，分类损失为：
$$L_{cls}=-\frac{1}{N}\sum _{i,j=1}^{h,w}(1-{\hat{y}}_{i,j}{)}^{\beta }(1-{\hat{s}}_{i,j}{)}^{\alpha }\log ({\hat{s}}_{i,j})$$

其中，$N$是每张图片中关键点的数量。$(1-y_{i,j})$对应于点ground truth位置的penalty reduction。

(2) Regression Loss

作者在每个feature map位置上对回归的尺度和角度参数添加了channel-wise activation，用来保持一致性。激活函数选择sigmoid function $\sigma$和使用了L2 Norm。

$$\left[\begin{array}{r}{\delta }_h\\ {\delta }_w\\ {\delta }_l\end{array}\right]=\sigma \left(\begin{array}{r}\left[\begin{array}{r}{o}_h\\ o_w\\ o_l\end{array}\right]\end{array}\right)-\frac{1}{2},\left[\begin{array}{r}\sin \alpha \\ \cos \alpha \end{array}\right]=\left[\begin{array}{r}{o}_{\sin }/\sqrt{o_{sin}^2+o_{cos}^2}\\ o_{\cos }/\sqrt{o_{sin}^2+o_{cos}^2}\end{array}\right]$$

这里的$o$ 表示网络的输出。使用L1 distance来作为3D bounding box regression loss。
$$L_{reg}=\frac{\lambda }{N}||\hat{B}-B|{|}_1$$

这里的$\hat{B}$是预测的变换，$B$为ground-truth。

四、性能表现

五、 Conclusion

简单的单目3D目标检测，用在了新版本的APOLLO上。直接回归3D参数，没有通过2D Bounding Box。在构造回归分支的损失函数时，将多个属性对损失函数的贡献解耦，加速模型收敛。速度较快。

百度在Apollo7.0中也基于SMOKE框架开发出了一个新的基于视觉的障碍物检测模型，其针对SMOKE做了一些改进，并在waymo数据集上进行了训练和测试。改进点：

• 使用常规卷积替换可变性卷积，从而能转换为onnx或libtorch，便于模型部署；
• 增加了一个用于预测2D边界框中心点与3D边界框中心点投影之间的偏移量的head，然后将该偏移量与2D边界框中心点相加来替换- 原有的3D边界框中心点投影预测，以应对部分截断障碍物的3D中心点投影出现在图像以外区域，以至于被过滤掉的问题；
• 原有的SMOKE框架没有预测2D边界框，Apollo在部署的时候仍然加入了2D边界框的预测。通过预测2D边框的中心点、宽度和高度，计算出障碍物的2D边框。

六、 Reference

1. https://mp.weixin.qq.com/s/ZEI_gBM847QkzLmas-E5iQ