点击下方卡片,关注“自动驾驶之心”公众号
ADAS巨卷干货,即可获取
点击进入→自动驾驶之心技术交流群
后台回复【ECCV2022】获取ECCV2022所有自动驾驶方向论文!
论文链接:https://arxiv.org/pdf/2208.01925.pdf
代码链接:https://github.com/zxrzju/SuperLine3D
摘要
电线杆和建筑物的轮廓是城市道路上随处可见的物体,可为计算机视觉提供可靠的提示。为了重复提取它们作为特征并在离散的LiDAR帧之间实现关联以进行点云匹配。本文提出了一个用于LiDAR点云中3D线的基于学习的特征分割和描述子模型。为了高效的训练模型,本文首先为目标线的基本外观生成synthetic primitives,并构建迭代线的自动标记过程,以逐步细化真实LiDAR扫描上的线标签。本文提出的分割模型可以在任意尺度扰动下提取目标线段,并使用共享的EdgeConv编码层来联合训练分割头和描述头。使用SuperLine3D,本文可以在没有初始转换提示的情况下构建一个高复用的全局点云配准模块。实验表明,SuperLine3D的基于线的配准方法与最先进的基于点的方法相比具有很强的竞争力。
本文的整体框架如下图所示,贡献总结如下:
首次提出基于学习的线分割和描述子的用于LiDAR点云的方法,为全局配准提出了一个适用的特征类别;
提出用于点云的线段标记方法,该方法可以将从合成数据中学习到的模型迁移到真实的LiDAR场景中以进行自动标记;
探索了点云特征的尺度不变形,并通过消除Sim(3)变换中的尺度因子,为在尺度扰动下改进基于学习的任务在点云上的泛化性提供了一个可行的思路。
![98dac0bd956c3a303f369939a5a16677.png](https://i-blog.csdnimg.cn/blog_migrate/c74e54fc52387b5336afaa00d417aee2.png)
方法
由于缺乏相关数据集,本文遵循SuperPoint [11]的自监督思想,首先构建简单的合成数据来初始化基础模型,然后对模型进行细化来训练线分割模型,期间迭代地使用来自几何适应的自动标记的真实LiDAR点云数据。之后,收集不同LiDAR扫描之间的线对应关系,并以端到端的方法联合训练线分割和描述子模型。
Line Segmentation Model
合成数据生成:本文主要检测两种线段:1)平面之间的交点;2)极点。因此,本文选择使用如下图(a)所示的两个mesh primitives来分别模拟它们的局部外观。这两个网格模型首先均匀采样4000个点云,如下图(b)所示,每个点添加5%的3自由度相对位置扰动。然后,为了模拟附近的背景点,进一步随机裁剪了40个basic primitives,每个primitives包含1000个真实的点云[14],并将它们组合在一起以构建最终的合成数据。本文一共生成了5000个合成点云,每个云有5000个点。
![8fda2960b424a1792223e74bac92dc99.png](https://i-blog.csdnimg.cn/blog_migrate/8199e633147ecc67a8d9eb3bf1811dcf.png)
尺度不变的线分割:本文将线检测视为点云分割问题,主要挑战是原始缩放问题:在真实的LiDAR帧中,点的密度随着扫描距离的增加而减小,当目标特征远离传感器时,体素网格下采样无法完全归一化密度。此外,上述的合成数据生成也没有考虑线段的比例,如上图(e)所示。如果不处理这样的问题,当训练和测试数据在不同尺度时,模型将无法产生合理的预测。
为了解决这个问题,本文的网络通过消除 Sim(3) 变换的比例因子并使用相对距离来获得尺度不变性:
![134aba0002dc566129f9b8c042e0fc58.png](https://i-blog.csdnimg.cn/blog_migrate/c64b11a9f308693f7fc0e61a4cd4cd0a.png)
上式中,本文搜索点p附近20个最近点,并将尺度不变的局部特征计算为曼哈顿距离与p与其最近邻之间的欧几里得的距离之比。这样的特征定义的权衡是局部特征不能反映原点在欧几里得空间中的位置,所以变换有信息损失。
模型结构:本文选择DGCNN[39]作为主干,因为它直接对点及其最近邻进行编码,而不需要复杂的操作。下式为EdgeConv [39]的局部特征编码函数:
![57eb7104f3155b811d02e8b524792bd2.png](https://i-blog.csdnimg.cn/blog_migrate/eed0f74dc914016142fd54cf37d1ed6e.png)
自动线段标注:由于没有可用的相关数据集。因此本文构建了一个自动线段标记的方法,如下图所示。受SuperPoint [11]中的单应自适应的启发,本文对LiDAR扫描进行几何自适应。首先,在合成数据集上训练分割模型,并将XOY中20m和偏航中360°均匀分布的2D变换作用于LiDAR点云。然后,基于训练好的模型来预测扰动数据上的标签,从所有扰动聚合标签,并将预测超过80%属于线的点云作为候选点云。为了将二进制点云聚类成线,本文使用了区域增长算法。一旦提取得到了线段,就会加入到训练中以进一步细化分割模型。本文重复几何适应3次,在KITTI里程计序列[14]上生成了12989个自动标记的LiDAR帧。
![d09925f7bb4c15cc9e7d1d8d177f2d18.png](https://i-blog.csdnimg.cn/blog_migrate/5ded4197cb92744ffa4ecb52844f582d.png)
Joint Training of Line Segmentation and Description
线段描述子的定义:与只需要线段端点的几何定义不同。每条线的描述子应通过其所属点传达局部外观,因为观察到的端点可能由于遮挡而在帧之间变化。因此,本文将线段的描述子定义为其所有所属点的平均值。
模型结构:网络结构如下图所示,包含堆叠的三个EdgeConv [39]层用于特征编码,和两个解码器分别用于线段分割和描述子提取。
![648d23b0f961a52e9f8a92c0fcf99764.png](https://i-blog.csdnimg.cn/blog_migrate/c74ac658a3550865600d3314dafff381.png)
损失函数:分割损失是标准的cross-entropy损失,本文按照[38]和[5]为线段描述子构建判别损失。具体来说,首先使用线段标签得到每条线段的均值描述子μ,然后使用每条线的将点云描述子拉向μ。提出是为了使不同线段的描述子互相排斥。另外对于点云对,需要计算匹配损失和非匹配线之间的损失。每项损失如下所示:
![1ee1b71e33d94bb44f7c8d8da07ae723.png](https://i-blog.csdnimg.cn/blog_migrate/0928d46cc806d8cd12519adb0511ab83.png)
最终损失如下:
![bcc3e922b7b09cb759f36f63a41ea7a4.png](https://i-blog.csdnimg.cn/blog_migrate/659bacf271ece5d811e966a1b3406799.png)
基于线段的配准:本文的网络为每个点云输出标签和描述子。使用上述步骤提取后,进一步执行描述子匹配以获取线对应。匹配描述子符的阈值设置为0.1。通过最小化所有线匹配的损失,即最小化point-to-line的距离,进而实现将源点云配准到目标点云的变换。
![284680635e4fcbe751787a005f94a944.png](https://i-blog.csdnimg.cn/blog_migrate/8c8b1d4c9a4a951b600bd20f61300cf9.png)
实验结果
Point Cloud Registration Test
![62f964b89d0d7b37099d7adb3e5da615.png](https://i-blog.csdnimg.cn/blog_migrate/afcf4c1311da56da26d75c09c4cea759.png)
上表列出了各种算法的配准性能对比。在随机旋转扰动下,ICP的recall仅为11.3%。基于FPFH特征的FGR和RANSAC方法具有更高的recall,但错误也更高。在处理大扰动场景时,基于学习的端到端方法HRegNet和DGR的性能也会大幅降低。下图展示了不同错误阈值下的配准recall
![95619b013a2722efe8f5499a1bd83e00.png](https://i-blog.csdnimg.cn/blog_migrate/af1f1652af2a5fa2baa0f04efccbad08.png)
本文的基于线的配准实现了与基于点云特征方法相当的性能。下图展示了KITTI测试序列的可视化结果,本文的方法成功地配准了任意旋转扰动下的点云。
![adc6bab2c5d093afdc2c8e08ea08bfcd.png](https://i-blog.csdnimg.cn/blog_migrate/1b5bfc2620a8193846808eca060a8450.png)
Ablation on RANSAC iterations
基于点云特征的配准需要RANSAC去除异常值并计算正确的变换。相比之下,本文不依赖RANSAC 过滤错误匹配。为了在变换估计期间去除异常值,本文在初始对齐后计算线对应的line-to-line距离,进而删除平均距离大于1m的结果并重新计算。
![e7c1d5c8be254a059ec3c4173c27e505.png](https://i-blog.csdnimg.cn/blog_migrate/02dc506805467fed5025ec444eca5a2e.png)
上图展示了不同RANSAC迭代下点云配准的性能。在没有 RANSAC 的情况下,D3Feat 和SpinNet 都无法获得准确的转换,直到最大迭代次数超过1000次。
Line Segmentation Evaluation
下图展示了网络预测的准确率和mIOU,没有尺度适应的方法在尺度变化时性能骤降。vanilla DGCNN在小尺度干扰(0.8 到 1.6)中获得最佳精度和 mIOU,本文提出的尺度不变方法在任意尺度下都是稳定的。此外,本文还发现,当尺度固定后,使用尺度不变的方法会降低准确率,因此本文只在合成数据训练中使用。在分割和描述子的联合训练中,改用vanilla DGCNN。
![206798ac263065dc0d7a26b85d04740a.png](https://i-blog.csdnimg.cn/blog_migrate/e5231d8a4df8a83881388bc95a1cbe5a.png)
可视化的对比:
![f3f97c8293f890771b7ef88170777610.png](https://i-blog.csdnimg.cn/blog_migrate/32a4d007770549cf3712b794c4e863e8.png)
Generalization on Unseen Dataset
为了比较泛化性,本文在Apollo Sourthbay数据集[23]上进行测试,可视化结果如下:
![795995e3755aaa9d6cdf73126f8056fe.png](https://i-blog.csdnimg.cn/blog_migrate/7c416f827cc84035b1c78f197375b1b3.png)
性能对比:
![110bd9480f1a6acb6fb28f0bb63a1422.png](https://i-blog.csdnimg.cn/blog_migrate/ea0fbb929ec92aa840aa1713fb816932.png)
消融实验
进一步验证了Skip Encoding和Descriptor Dimension对模型性能的影响。
![53c09da593d1368d60112afed80c3b4d.png](https://i-blog.csdnimg.cn/blog_migrate/ca47a6921c4d0aaa1036d0c093fd1e7a.png)
参考
[1] SuperLine3D: Self-supervised Line Segmentation and Description for LiDAR Point Cloud
【自动驾驶之心】全栈技术交流群
自动驾驶之心是首个自动驾驶开发者社区,聚焦目标检测、语义分割、全景分割、实例分割、关键点检测、车道线、目标跟踪、3D感知、多传感器融合、SLAM、高精地图、规划控制、AI模型部署落地等方向;
加入我们:自动驾驶之心技术交流群汇总!
自动驾驶之心【知识星球】
想要了解更多自动驾驶感知(分类、检测、分割、关键点、车道线、3D感知、多传感器融合、目标跟踪)、自动驾驶定位建图(SLAM、高精地图)、自动驾驶规划控制、领域技术方案、AI模型部署落地实战、行业动态、岗位发布,欢迎扫描下方二维码,加入自动驾驶之心知识星球(三天内无条件退款),日常分享论文+代码,这里汇聚行业和学术界大佬,前沿技术方向尽在掌握中,期待交流!