使用稀疏 4D 卷积对 3D LiDAR 数据中的运动对象进行后退分割（IROS 2022）

最新推荐文章于 2024-04-23 17:36:39 发布
最新推荐文章于 2024-04-23 17:36:39 发布
阅读量548 收藏 1
点赞数
文章标签： 算法 机器学习 人工智能 深度学习 java
原文链接：https://mp.weixin.qq.com/s?__biz=MzU1MjY4MTA1MQ==&mid=2247617157&idx=3&sn=7ddfc174ceae068e7f40789d4bebde71&chksm=fbfd21b1cc8aa8a714489e8c3401e5298cce2cc9cb6a090c372454080c06c87006ba13285a29&scene=126&&sessionid=0
版权

点击上方“3D视觉工坊”，选择“星标”

干货第一时间送达

9b52ebc60830275844c418206f3f079f.jpeg

作者丨泡泡机器人

来源丨 泡泡机器人SLAM

Receding Moving Object Segmentation in 3D LiDAR Data Using Sparse 4D Convolutions

本篇翻译/测试同学：吴奇

来源: RAL/IROS

作者：Benedikt Mersch, Xieyuanli Chen, Ignacio Vizzo, Lucas Nunes, Jens Behley, Cyrill Stachniss

Year: 2022

对于激光SLAM来说，如何在动态场景中的姿态估计一直是个难以解决的问题。现在基于激光雷达稀疏点云的物体分割算法已经有很多研究。但去除掉某一类的物体并不是解决激光SLAM在动态物体中的最优选择，停着的车、静止的墙这些才是激光SLAM定位当中真正需要观察的点云信息。本篇工作中，作者对采集到的序列点云帧构建出”后退序列滑动点云窗口“，用提出的新型的4D稀疏卷积算法，通过对采集到到的序列点云帧进行推理，预测出场景中真正移动的物体（如骑行的人）。除此之外，作者采用了贝叶斯滤波的方式，进一步提升了滤波的鲁棒性。

53d2c6ea12330d6c8dd1005d8c0145a1.png

主要工作和贡献

  • 提出稀疏的4D卷积方法可以提取出点云中的时空特征信息，用于分割出场景中真正运动的场景。该方法通过滑动窗口的方式，将新观测的点云信息添加到估计序列中的同时也去除掉序列中时间最久的序列帧。同时通过二元贝叶斯滤波的方式提升估计的鲁棒性。将场景中的真正静态物体保存下来。

  • 相比于之前的方法，该方法对于估计场景中静态物体的方式更好。

  • 对场景的适应性更好。

  • 可以通过新的观测点云来提升预测结果。

算法总结

bab5a1674b62706c81c2a2abe14b8726.png

算法整体框架图如图所示：这里的代表的是当前时刻下观测得到的点云。

A.算法输入

将滑动窗口中的点云都对齐到当前点云帧坐标系下，构建出稠密的4D点云。这里的4D维度除了表示位置信息外，也将时间信息加到观测序列中。如公式所示。

46d1260a5fbb4a7378ad488ab4c74a75.png

因为激光点云过于稀疏，所以这里将4D点云通过和的方式将空间中的稀疏点云划分到稀疏体素空间下。用稀疏的tensor来表示稀疏体素，并且只将有物体的空间体素特征进行表达来提升算法的高效，让算法可以在大空间下使用。

B. 稀疏4D卷积

相比于稠密4D卷积，稀疏4D卷积的方式速度更快。作者借助Minkowski Engine工具来实现这一idea，基于MinkUNet14框架进行修改。UNet这种跳跃连接的方式来更好的保存细节和提升预测效果。相比于之前基于SalsaNext的LMNet（6.7MB）或基于RangeNet++（50MB）的实现，我们的算法仅用了1.8M内存。网络的最后一层SoftMax，对场景中的点进行二值分类，通过0,1表示场景中的点到底是否运动。

C. 后退平移策略

该方法的优势是通过新的观测来对场景中的移动物体进行重新估计，可以通过序列的方式来有效的对场景中的移动物体来进行重建估计。

D. 二值贝叶斯滤波

这里二值滤波的主要方式就是通过新观测得到的LiDAR帧来对之前不同时刻观测得到的激光点云来进行重新预测。

613afed9763072e4f68755c0f02744ee.png

如公式（2）所示，这里将表示时刻下预测的结果。通过贝叶斯滤波的方式来判断出点云在时刻t下到底是否运动。

4b4e76d239e053cb7d477fc69f86127f.png

如公式（3）所示，可以通过递推的方式来判断出场景中的点到底是否运动。

d63723b5725648a2ee20db8c22f0b1e3.png

12eaafe34b4873bae4eecf9f8c357784.png

在时刻t，我们通过对数的方式来输出置信度信息，判断产经中的信息是否运动。如果置信度信息大于0.5，则我们认为场景中的点运动，否则则认为场景中点没有运动。

实验结果

1. KITTI结果

  • 算法在Semantic Kitti上测试结果如下表所示：

352d0e1346d0ee612d710587e239d3dd.png

2. Apollo数据上测试结果：

  • 为了验证算法的泛化性，作者用KITTI的训练结果在Apollo上训练，得到结果如下：

77b429494a0e4aba1ed9989a2c91c55c.png

3. Prior在SemanticKITTI上测试

91d5abb1c3da0987e2d4984c25dee99d.png

4. 可视化结果观察

2e124345e1a07fabcbc1ebaa1ffc99d7.png

1eb29c34283a4d93eeb2b0f1522a6878.png

实验测试

github上开源算法README已将安装过程介绍的很清楚。唯一问题需要注意的是需要的torch版本是1.10，cuda是11.3。按照此环境配置，即可复现得到论文中的结果。

训练数据集构建

其中训练数据集构建得符合Semantic KITTI要求，如下所示：

a15c6aabe395a6e554adf07993d99c77.png

可视化效果

如果希望可视化效果，按

github issue：https://github.com/PRBonn/4DMOS/issues/9

所示，得到结果：

cd semantic-kitti-api
./visualize_mos.py --sequence 8 --dataset /mnt/data/kitti-odometry/dataset --predictions /path/to/4DMOS/predictions/ID/POSES/labels/STRATEGY/

本文仅做学术分享，如有侵权，请联系删文。

3D视觉工坊精品课程官网：3dcver.com

1.面向自动驾驶领域的多传感器数据融合技术

2.面向自动驾驶领域的3D点云目标检测全栈学习路线！(单模态+多模态/数据+代码)
3.彻底搞透视觉三维重建：原理剖析、代码讲解、及优化改进
4.国内首个面向工业级实战的点云处理课程
5.激光-视觉-IMU-GPS融合SLAM算法梳理和代码讲解
6.彻底搞懂视觉-惯性SLAM：基于VINS-Fusion正式开课啦
7.彻底搞懂基于LOAM框架的3D激光SLAM: 源码剖析到算法优化
8.彻底剖析室内、室外激光SLAM关键算法原理、代码和实战(cartographer+LOAM +LIO-SAM)

9.从零搭建一套结构光3D重建系统[理论+源码+实践]

10.单目深度估计方法：算法梳理与代码实现

11.自动驾驶中的深度学习模型部署实战

12.相机模型与标定(单目+双目+鱼眼）

13.重磅！四旋翼飞行器：算法与实战

14.ROS2从入门到精通：理论与实战

15.国内首个3D缺陷检测教程：理论、源码与实战

16.基于Open3D的点云处理入门与实战教程

重磅！3DCVer-学术论文写作投稿 交流群已成立

扫码添加小助手微信，可申请加入3D视觉工坊-学术论文写作与投稿 微信交流群，旨在交流顶会、顶刊、SCI、EI等写作与投稿事宜。

同时也可申请加入我们的细分方向交流群，目前主要有3D视觉、CV&深度学习、SLAM、三维重建、点云后处理、自动驾驶、多传感器融合、CV入门、三维测量、VR/AR、3D人脸识别、医疗影像、缺陷检测、行人重识别、目标跟踪、视觉产品落地、视觉竞赛、车牌识别、硬件选型、学术交流、求职交流、ORB-SLAM系列源码交流、深度估计等微信群。

一定要备注：研究方向+学校/公司+昵称，例如：”3D视觉 + 上海交大 + 静静“。请按照格式备注，可快速被通过且邀请进群。原创投稿也请联系。

a0d0147867cb913adfc0a9cfc4057b59.jpeg

▲长按加微信群或投稿

ba769dd5db9341956948fc7a3585567b.jpeg

▲长按关注公众号

3D视觉从入门到精通知识星球：针对3D视觉领域的视频课程（三维重建系列、三维点云系列、结构光系列、手眼标定、相机标定、激光/视觉SLAM、自动驾驶等）、知识点汇总、入门进阶学习路线、最新paper分享、疑问解答五个方面进行深耕，更有各类大厂的算法工程人员进行技术指导。与此同时，星球将联合知名企业发布3D视觉相关算法开发岗位以及项目对接信息，打造成集技术与就业为一体的铁杆粉丝聚集区，近4000星球成员为创造更好的AI世界共同进步，知识星球入口：

学习3D视觉核心技术，扫描查看介绍，3天内无条件退款

d94c541e9e5ede5e079b9cbd328ec46d.jpeg

 圈里有高质量教程资料、答疑解惑、助你高效解决问题

觉得有用，麻烦给个赞和在看~  

3Ｄ视觉工坊
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
稀疏矩阵卷积：稀疏矩阵的卷积-matlab开发
05-30
与 CONV2 相同，但适用于稀疏矩阵
使用卷积神经网络对mnist数据集进行分析
12-21
使用卷积神经网络对mnist数据集进行分析 使用tensorflow对mnist数据集进行建模 #1、导入需要用到的包 import tensorflow as tf import random import numpy as np import matplotlib.pyplot as plt import datetime...
使用稀疏 4D 卷积对 3D LiDAR 数据中的运动对象进行后退分割
qq_37662375的博客
08-02 381
对于激光SLAM来说，如何在动态场景中的姿态估计一直是个难以解决的问题。现在基于激光雷达稀疏点云的物体分割算法已经有很多研究。但去除掉某一类的物体并不是解决激光SLAM在动态物体中的最优选择，停着的车、静止的墙这些才是激光SLAM定位当中真正需要观察的点云信息。本篇工作中，作者对采集到的序列点云帧构建出”后退序列滑动点云窗口“，用提出的新型的4D稀疏卷积算法，通过对采集到到的序列点云帧进行推理，预测出场景中真正移动的物体（如骑行的人）。除此之外，作者采用了贝叶斯滤波的方式，进一步提升了滤波的鲁棒性。....
【3D目标检测】Sparse4D: Multi-view 3D Object Detection with Sparse Spatial-Temporal Fusion
最新发布
cjy_colorful0806的博客
04-23 962
本文贡献： （1）提出Sparse4D是第一个具有时域融合的稀疏查询多视图3D检测算法； （2）提出了一种可变形的4D聚合模块，可以灵活地完成多维（点、时间戳、视图和比例）特征的采样和融合。 （3）引入了深度重加权模块，以缓解基于图像的 3D 感知系统中的不良问题。 （4）在nuScenes 数据集上，Sparse4D优于所有现有的稀疏算法和大多数基于 BEV 的算法，并且在跟踪任务上也表现良好。
【论文阅读】RAL 2022: Receding Moving Object Segmentation in 3D LiDAR Data Using Sparse 4D Convolutions
这里是张聪明，正在学习中，请稍后
08-06 569
Status: Finished Type: RAL Year: 2022论文链接：https://www.ipb.uni-bonn.de/wp-content/papercite-data/pdf/mersch2022ral.pdf代码链接：https://github.com/PRBonn/4DMOS在自动驾驶导航中 dynamics obstacle 对于轨迹规划很重要，所以如何识别动态障碍物是一个比较重要的问题现有方法：以上方法都是offline 需要时间内所有的LiDAR；其他方法也有对比两相邻帧
稀疏卷积 Sparse Convolution Net
热门推荐
pytorch内部机制解读
03-04 1万+
概述 这是一篇对稀疏卷积讲述非常全面的文章，理解起来毫不费事。这里要和SPConv相区别，这是两个完全不同的东西。SPConv是为了解决普通33卷积算子参数冗余而设计的，一种“即插即用”计算单元，可以随时随地替换普通33卷积算子，可以用来提高模型推理速度吧。跟剪枝算法差不多。 下面要讲述的是稀疏卷积Sparse Convolution Net，转载自https://zhuanlan.zhihu.com/p/383299678，写的十分详细。通俗易懂，方便读者理解。 简介 ​ 稀疏卷积常用于3D项目（如3D
稀疏卷积Sparse Convolution
人无远虑，必有近忧
02-28 871
使用以下稀疏图像作为输入如图所示，我们有一个5×5的3通道图像。除了P1和P2两点外，所有像素都是空，我们称像P1和P2这样的非空点为active input site。在稀疏格式中，数据列表是[[0.1,0.1,0.1], [0.2,0.2,0.2] ，索引列表是[1,2] ，[2,3] ，并且是YX顺序。在卷积过程中卷积核如下定义，每个卷积核是一个3x3矩阵。深色和浅色代表两种滤镜。有两种稀疏卷积。
pytorch-classify-object-detect.rar 使用Pytorch训练卷积神进行对象检测（图像和视频流中）
02-28
classify_image.py detect_image.py predict.py detect_realtime.py train.py train_lenet.py coco.json coco_classes.pickle ilsvrc2012_wordnet_lemmas.txt read_write_pickle.py coco_classes.pkl ...
spvnas:[ECCV 2020]使用稀疏点体素卷积搜索高效的3D架构
04-14
SPVNAS | ， ，盛宇赵，林保育钧，， ， ECCV 2020 SPVNAS在SemanticKITTI上...请按照此处的说明下载SemanticKITTI数据集（KITTI Odometry数据集和SemanticKITTI标签），并将sequences文件夹中的所有文件提取到/da
LIDAR-denoising:使用LES模拟和卷积神经网络对LIDAR观测值进行去噪
03-06
激光雷达去噪该代码库使用Julia语言和进行了可重现的科学项目，名为激光雷达去噪要（本地）复制此项目，请执行以下操作： 下载此代码库。 请注意，原始数据通常不包含在git历史记录中，可能需要独立下载。 打开Julia...
tensorflow使用一维卷积对序列数据进行训练
02-22
tensorflow使用一维卷积对序列数据进行训练
4d-cbct:深度卷积神经网络（基于“ U-Net”）可增强4-D锥形束CT的图像质量
05-08
4D立方英尺 深度卷积神经网络模型（基于“ U-Net”），可提高4-D锥形束CT的图像质量 客观的 在此项目中，受SPARE挑战（ ）的启发，我们正在研究深度学习模型的性能，以提高4的质量。锥束CT图像。 特别是，我们已基于“ U-Net”架构实现了深度卷积神经网络（Ronneberger等，2015）。 这里介绍的模型对应于我们的第一个原型。 该模型 上图显示了用于图像分割任务（ ）的原始2-D U-Net的体系结构。 我们的模型包含以下修改： 我们已将Maxpooling图层替换为2D卷积图层。 我们已经通过调整大小（使用最近的邻居）+ 2-D卷积来替换上卷积层。 此修改旨在防止网络超出反卷积层的典型伪像。 可以在这里找到关于此问题的非常好的描述： : 。 我们的输入/输出对应于448 x 448 cbct的轴向切片。 数据 数据由SPARE Challenge提供。
spconv:PyTorch中的空间稀疏卷积
05-01
SpConv：PyTorch空间稀疏卷积库 这是一个空间稀疏的卷积库，例如但速度更快且易于阅读。 该库提供稀疏卷积/转置，子流形卷积，逆卷积和稀疏maxpool。 2020-5-2，我们在此版本的spconv中添加了ConcatTable，JoinTable，AddTable和Identity函数，以构建ResNet和Unet。 码头工人： docker pull scrin/dev-spconv ，包含python 3.8，cuda 10.1，鱼壳，最新的pytorch和tensorflow。 在Ubuntu 16.04 / 18.04上安装 如果您使用的是pytorch 1.4+，并且遇到“ nvcc致命：未知-Wall”，则需要转到割炬软件包目录并在Caffe2Targets.cmake的INTERFACE_COMPILE_OPTIONS中删除包含“ -Wall”的标志。 此项
稀疏卷积 sparse conv
hxxjxw的博客
05-28 5921
如果某个卷积的任意输入神经元与任意输出神经元均存在连接，那么这类卷积称之为常规卷积(非稀疏卷积)； 反之，如果存在输入神经元与输入神经炎之间无连接，那么这类卷积称之为稀疏卷积。比如组卷积就是稀疏卷积的一种。 ...
稀疏卷积Submanifold Sparse Convolutional Networks
weixin_43823175的博客
05-06 3366
稀疏卷积Submanifold Sparse Convolutional Networks 论文 Submanifold Sparse Convolutional Networks 论文地址：https://arxiv.org/pdf/1706.01307.pdf 本文提出了稀疏卷积，介绍了具体的做法，后续很多三维点云语义分割/目标识别都沿用了这种做法 参考：https://blog.csdn.net/u013066730/article/details/108512125论文的解释 https://zhu
稀疏卷积—Submanifold Sparse Convolutional Networks
Code_YGP的博客
12-11 390
稀疏卷积—Submanifold Sparse Convolutional Networks 转自链接:https://blog.csdn.net/u013066730/article/details/108512125
(论文笔记)SC4D: A Sparse 4D Convolutional Network for Skeleton-Based Action Recognition
CoralSeaH的博客
08-11 385
SC4D: A Sparse 4D Convolutional Network for Skeleton-Based Action Recognition摘要一、介绍二、使用步骤1.引入库2.读入数据总结 Skeleton-Based Action Recognition 摘要 本文主要介绍一个新的骨架动作识别方法，将骨架序列视为一个时空点云，并将其化为一个4维网络。提出了一个新的稀疏4D卷积网络(SC4D)，直接处理生成4D网络，获得高阶感知。不需要手工设计制作的转换规则，更好的利用了卷积网络的优势，形成
稀疏卷积【1】Submanifold Sparse Convolutional Networks
weixin_38087692的博客
07-18 6915
学习submanifold sparse convolutional networks是因为在看3D点云目标检测文章时遇到了问题，在3D点云目标检测问题中，相关算法如PVrcnn，pointnet系列，Voxelnet都使用了3D sparse convolutional作为提取特征的工具，这一部分有必要深入了解。 Submanifold Sparse Convolutional Networks 文章研究动机和目标 此处是摘要内容，我结合了最近在研究的PVrcnn文章来分析稀疏卷积。 卷积网络是分析图像
sparse conv稀疏卷积
zxyOVO的博客
04-08 4512
"""Args:"""self.features = features # 储存密集的featureself.indices = indices # 储存每个feature对应的voxel坐标系下的坐标self.spatial_shape = spatial_shape #存储voxel的最大边界self.batch_size = batch_size # 储存batch sizeself.indice_dict = {} # 储存坐标之间的对应关系...参数。
matlab使用卷积神经网络对文本数据进行分类，为什么选用一维卷积神经网络
05-20
一维卷积神经网络可以从一维序列数据中提取有意义的特征，然后使用这些特征来进行分类或预测。在文本分类任务中，一维卷积神经网络通常用于提取单词或字符之间的局部关系，例如提取短语或句子中的重要特征。 相比于...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值