CFT：Multi-Camera Calibration Free BEV Representation for 3D Object Detection——论文笔记

参考代码：暂无

1. 概述

介绍：在相机数据作为输入的BEV感知算法中很多是需要显式或是隐式使用相机内外参数的，但是相机的参数自标定之后并不是一直保持不变的，这就对依赖相机标定参数的算法带来了麻烦。如何提升模型对相机参数鲁棒性，甚至是如何去掉相机参数成为一种趋势。对应的这篇文章完全去除了相机参数依赖，首先通过PA（position-aware enhancement）实现强大BEV空间位置编码，之后BEV空间位置编码与图像特征做cross attention实现BEV特征提取，这里的cross attention是针对特定区域的VA（view-aware attention），这个区域是通过相机空间布置位置作为先验进行划分的。这样通过上述的两个模块构建了一个高效的BEV空间特征提取网络，并且在内存占用和计算效率上有了较大提升。

对于相机参数的使用可以划分为如下几种使用方法：

• 1）显式使用：通过内外参数建立3D空间和2D空间中的对应关系，并以此对应关系进行特征索引或提取，带来的好处是直观并且收敛速度快，但对相机参数很敏感。
• 2）隐式使用：将内外参数隐式编码（embedding）并通过query的形式获取最后的特征表达，好处是对相机参数相对鲁棒。但是做query的维度不能太大（CVT的querysize为25），否则计算量和内存扛不住，太小也导致性能会被削减厉害。
• 3）完全不使用：这类方法中完全抛弃了相机参数，通过构建attention机制实现BEV特征和图像特征的关联，从而得到BEV表达。但是这需要强大的position/content表达和cross attention算力，实际训练和部署中也会存在对应的问题。但是文章通过提出的PA和view-aware attention给出了一个可行方案。

按照以上三种相机使用方法进行划分，文中对现有的一些方法进行划分：

将文章的方法和其它一些方法对比相机参数鲁棒性：

一条近乎直线的变化，稳得一批。

2. 方法设计

2.1 网络pipeline

文章的网络pipeline见下图所示：

在上图中可以看到文章提出的两点改进PA和VA。其中PA是对位置编码进行强化，其使用了BEV 2D和content编码，并通过PA网络实现特征增强。

2.2 Position-aware Attention

PA的网络结构见下图所示：

对于BEV的2D query表示为$Q_p\in R^{H_b\ast W_b\ast C_p}$，这个2Dquery会经过FFN网络和sigmoid激活之后用于表示BEV的高度信息：
$$z_{ref}=Norm(Sigmoid(FFN(Q_{ref})))$$
自然这个高度信息也是可以添加实际监督约束（如L1 loss）的，不过文中后续实验表明显式添加约束可不需要。之后再经过正弦函数编码与BEV 2D query做融合：
$$Q_{ep}=add($$