视觉/激光/多传感器融合SLAM，如何选择适合的技术方案？

点击上方“计算机视觉life”，选择“星标”

快速获得最新干货

背景介绍

在自动驾驶、无人机、增强现实、机器人导航等领域的技术栈中，即时定位和建图（SLAM）是其中的核心技术之一。SLAM中所涉及到的传感器有相机、激光雷达、IMU、GPS、轮速计等，面对不同的平台和传感器配置，如何选择适合自己的技术方案呢？

全国最大机器人SLAM开发者社区

自动驾驶之心的好朋友，计算机视觉life创始人六哥创办小六的机器人SLAM 圈知识星球，是全国最大的机器人SLAM学习交流社区，包括入门图文/视频教程、学习过程疑难点解答、每日最新论文/开源代码/数据集分享、在线学习小组、笔试面试题、实习/校招/社招岗位推荐、星主直播交流等，具体如下

• 2018年创立、4500+会员、7500+主题分享、9900+问答评论、170+教学视频

• 领域：机器人SLAM、三维视觉、自动驾驶、增强现实、无人机、图像处理

• 直播：每月6/16/26日固定直播，涵盖大佬分享、学习经验、求职面试、实习历程、行业内幕

• 教程：图文视频教程：涉及代码调试、OpenCV、PCL、G2O、Ceres、视觉SLAM十四讲、LVISAM、R3LIVE……

• 答疑：每日星主答疑、嘉宾答疑、星友互助答疑，搜索关键字几乎所有问题都能找到答案

• 资讯：每日论文分享、行业资讯汇总、每周汇总、精华汇总

• 活动：学习小组、行业资源对接、会员激励、有偿招募助教/兼职

• 求职：经验分享、内推职位、SLAM面试题、笔试练习

• ……

• 详细介绍见小六的机器人SLAM 圈
  

长按二维码，加入即可开始学习~3天内无条件退款

购买后务必加客服领取其他权益和加交流群

现在加入免费送2020-2022年SLAM答疑手册（126+356+313页）

视觉SLAM基础

ORB-SLAM2是业内最知名、应用最广泛的视觉SLAM开源代码之一。它有如下优点：

• 支持单目，双目和RGB-D相机的完整开源SLAM方案，能够实现地图重用、回环检测和重新定位的功能。

• 支持轻量级定位模式，可以达到零漂移，此时不使用局部建图和回环检测的线程，可以用视觉里程计来跟踪未建图区域。

• 采用ORB特征，具有旋转不变性、光照不变性、尺度不变性，匹配速度快，适合实时应用。无论是在室内的小型手持设备，还是到工厂环境的无人机和城市里驾驶的汽车，ORB-SLAM2都能够在CPU上进行实时工作。

• 跟踪、局部地图、闭环、重定位等所有的任务都采用相同的ORB特征，使得系统内数据交互更高效、稳定可靠。

• 单目初始化和应用场景解耦，不管是平面还是非平面场景，都可以自动初始化，无需人工干预。

• 地图点和关键帧创建比较宽松，但后续会进行严格筛选，剔除冗余关键帧和误差大的地图点，增加建图过程的弹性，在大旋转、快速运动、纹理不足等恶劣情况下可以提高跟踪的鲁棒性。

• 采用共视图，使得跟踪和建图控制在局部共视区域，与全局地图大小无关，可以在大场景下运行。

• 使用本质图（Essential Graph）来优化位姿实现回环检测，耗时少精度高 。

• 相比于直接法，可以用于宽基线特征匹配，更适合于对深度精度要求较高的场景，比如三维重建。

• 定位精度高，可达厘米级，是特征点法SLAM的经典代表作品。

• 代码可读性强，包含很多工程化技巧，非常实用。

ORB-SLAM2 用于室内三维重建

ORB-SLAM2详细注释的代码持续更新，网址：

https://github.com/electech6/ORB_SLAM2_detailed_comments

长按或扫描查看系统教程大纲

视觉惯性SLAM技术

ORB-SLAM3系统教程

ORB-SLAM3是在ORB-SLAM2的基础上开发的视觉惯性SLAM技术，于2020年7月发布。它在定位精度和效果上几乎碾压了同类的开源算法，受到极大关注。

它有如下特点：

1、 第一个可以运行视觉、视觉惯性和多地图，支持单目、双目和RGB-D相机，且支持针孔和鱼眼镜头模型的SLAM系统。

2、该算法可以在不同大小，室内和室外环境中鲁棒、实时的运行，精度上相比于以前的方法提升了2~5倍。

3、 多地图系统可以让系统在视觉信息缺乏的场景下长时间运行。比如当跟踪丢失的时候，它会重新建立新的地图，并在重新访问之前的地图时，无缝地与之前的地图合并。

4、实验结果证明，双目惯性模式下，该算法在无人机数据集EuRoC上可以达到平均3.6cm的定位精度，在手持设备快速移动的室内数据集TUM-VI上达到了9mm的定位精度。

从室内到室外，丝滑闭环

全网最详细ORB-SLAM3代码注释地址：

https://github.com/electech6/ORB_SLAM3_detailed_comments

长按或扫描查看系统教程大纲

滤波SLAM之MSCKF原理解析与源码详解

详情：滤波SLAM之MSCKF-VIO，视觉惯性SLAM的半边天！

MSCKF全称Multi-State Constraint Kalman Filter（多状态约束卡尔曼滤波器），是一种基于滤波的VIO算法，2007年由Mourikis在《A Multi-State Constraint Kalman Filter for Vision-aided Inertial Navigation》中首次提出。MSCKF在EKF框架下融合IMU和视觉信息，相较于单纯的VO算法，MSCKF能够适应更剧烈的运动、一定时间的纹理缺失等，具有更高的鲁棒性；相较于基于优化的VIO算法，MSCKF精度相当，速度更快，适合在计算资源有限的嵌入式平台运行。在机器人、无人机、AR/VR领域，MSCKF都有较为广泛的运用，如Google Project Tango就用了MSCKF进行位姿估计。

计算机视觉life已经推出了ORB-SLAM3、VINS:Mono+Fusion等基于优化的VIO算法，经过精心准备，我们推出了基于滤波的算法课程《滤波SLAM之MSCKF原理解析与源码详解》， 并对开源代码进行详细的中文注释，是国内唯一系统讲解MSCKF原理及代码实战的课程

VINS-Mono/Fusion原理解析与源码详解

VINS即Visual-Inertial navigation Systems，是视觉惯性导航系统的统称，不过我们平时所说的一般是指VINS-Mono/Fusion。香港科技大学飞行机器人实验室（沈邵劼团队）在2018年开源了VINS-Mono算法。第一作者秦通（2019华为天才少年），该论文获2018年机器人顶级期刊IEEE Transactions on Robotics最佳论文奖。它用一个单目相机+惯性测量单元（Inertial Measurement Unit，简称IMU）实现了紧耦合的视觉和惯性联合状态估计，在保证高精度里程计效果的同时，还可以同时估计出传感器外参，IMU零偏以及传感器时延。2019年该团队开源了VINS-Mono的升级版VINS-Fusion，它支持多种视觉惯性传感器类型，包括单目+IMU，双目+IMU，以及纯双目。VINS-Mono和VINS-Fusion在当年一骑绝尘，是非常经典且优秀的VIO框架。

以下是VINS-Fusion在汽车SLAM上的效果：

以下是讲师详细注释的代码地址：

https://github.com/xieqi1/VINS-Mono-noted

https://github.com/xieqi1/VINS-Fusion-noted

长按或扫描查看系统教程大纲

基于LiDAR的多传感器融合技术

多传感器融合SLAM是自动驾驶、智能机器人中的核心技术。目前工业界用的主流多传感器融合SLAM框架包括LOAM/A-LOAM、LeGO-LOAM、LIO-SAM等。

• LOAM是Ji Zhang早期开源的多线LiDAR SLAM算法。该代码可读性很差，作者后来将其闭源。

• A-LOAM是港科大秦通博士（VINS-Mono一作）在LOAM原有代码基础上，使用Ceres-solver和Eigen库对其进行重构和优化，在保持原有算法原理的基础上，使其可读性大大增加，作为入门多线激光slam最好选择。

• LeGO-LOAM 是Tixiao Shan在原有LOAM基础上，做了一些改进包括:1、对前端里程计的前量化改造，提取地面点更适配水平安装的LiDAR; 2、使用SLAM中的Keyframe概念以及回环检测位姿图优化的方式对后端进行重构。

• LIO-SAM 是Tixiao Shan在LeGO-LOAM的扩展，添加了IMU预积分因子和GPS因子：前端使用紧耦合的IMU融合方式，替代原有的帧间里程计，使得前端更轻量；后端沿用LeGO-LOAM，在此基础上融入了GPS观测。同时前端后端相互耦合，提高系统精度。

LIO-SAM  的效果

• LVI-SAM是Tixiao Shan 2021年最新的开源工作，他将LIO-SAM和VINS-Mono进行了结合，是一个通过平滑和建图实现激光雷达-视觉-惯性里程计的紧耦合框架，由两个紧耦合子系统组成：一个视觉惯性系统VIS和一个激光雷达惯性系统LIS。当两个子系统中的一个发生故障时，系统也可以发挥作用，这增加了它在无纹理和无特征环境中的鲁棒性

独家注释代码

https://github.com/xieqi1/a-loam-noted

https://github.com/xieqi1/lio-sam-noted

https://github.com/electech6/LVI-SAM_detailed_comments

激光SLAM技术

Cartographer是Google推出的一套基于图优化的激光SLAM算法，它同时支持2D和3D激光SLAM，可以跨平台使用，支持Laser、IMU、Odemetry、GPS等多种传感器配置。该算法可以实现实时定位和建图。

Cartographer建图过程

Cartographer建立的栅格地图可以达到5cm的精度，该算法广泛应用于服务机器人、扫地机器人、仓储机器人、自动驾驶等领域，是最优秀的激光SLAM框架之一。

Cartographer做了超详细源码注释

https://github.com/xiangli0608/cartographer_detailed_comments_ws

长按或扫描查看Cartographer大纲

神经辐射场NeRF三维重建

NeRF（Neural Radiance Fields）是最早在2020年ECCV会议上的Best Paper，其将隐式表达推上了一个新的高度，仅用 2D 的 posed images 作为监督，即可表示复杂的三维场景。一石激起千层浪，自此之后NeRF迅速发展起来被应用到多个技术方向上例如新视点合成、三维重建等等，并取得非常好的效果，其影响力是十分巨大的。

NeRF其输入稀疏的多角度带pose的图像训练得到一个神经辐射场模型，根据这个模型可以渲染出任意视角下的清晰的照片，如下图所示。也可以简要概括为用一个MLP神经网络去隐式地学习一个三维场景。

NeRF重建结果

NeRF最先是应用在新视点合成方向，由于其超强的隐式表达三维信息的能力后续在三维重建方向迅速发展起来。NeRF可应用于新视角重建、物体精细重建、城市范围的大场景重建、人体重建、3D风格迁移、镜面反射场景重建等。

长按或扫描查看NeRF大纲

深度学习三维重建技术框架

传统的重建方法是使用光度一致性等来计算稠密的三维信息。虽然这些方法在理想的Lambertian场景下，精度已经很高。但也有一些常见的局限性，例如弱纹理，高反光和重复纹理等，使得重建困难或重建的结果不完整。因此，传统三维重建方法在重建的完整性等方面仍有很大的改进空间。

近年来深度学习在三维重建上取得了很大的成功。基于学习的方法可以引入比如镜面先验和反射先验等全局语义信息，使匹配更加鲁棒，从而解决传统方法无法克服的难题。因此掌握基于深度学习的三维重建前沿算法非常重要。另外，在这个大数据时代，深度学习已经是大家必须掌握的技能，传统视觉算法已经很难有新的突破，各个领域都在朝深度学习方向研究，近几年各大视觉会议论文都是基于深度学习来实现三维重建，各个大厂招聘也越来越看重深度学习三维重建方法。

第3期《深度学习三维重建：从 理论到实战》，在前一期基础上增加了不少新内容，以深度学习MVS网络演化图为主线，覆盖目前深度学习MVS最前沿、最优秀的技术。理论与实战并重。这次我们采用挑战赛 + 闯关 +  押金的学习方式，扫描查看学习大纲和计划：

长按或扫描查看系统教程大纲

视觉几何三维重建技术

1. 三维重建是指用相机拍摄真实世界的物体、场景，并通过计算机视觉技术进行处理，从而得到物体的三维模型。英文术语：3D Reconstruction。

2. 涉及的主要技术有：多视图立体几何、深度图估计、点云处理、网格重建和优化、纹理贴图、马尔科夫随机场、图割等。

3. 是增强现实（AR）、混合现实（MR）、机器人导航、自动驾驶等领域的核心技术之一。

   

   三维重建结果

全网最详细的代码注释地址：

https://github.com/electech6/openMVS_comments

长按或扫描查看视觉几何三维重建大纲

C++编程入门基础

很多初学SLAM的小伙伴都有个疑问：号称宇宙第一语言的Python，简单好用，包又多，功能又强大，为啥SLAM算法里很少使用呢？

SLAM知识星球嘉宾刘国庆在知乎做了回答

这里再补充几点：

1. C++具有极高的性能和运行效率，很多语言都是在C/C++基础上封装的，比如Python。就这一点足以秒杀众多的高级语言。

2. C++发展了三十多年一直是编程常青树，一直使用，一直在发展，C++岗位需求会越来越旺盛，只增不减。

3. C++能够操控底层，非常适合和硬件打交道。

很多小伙伴都是机械、自动化、通信等非计算机专业，也没有经历过系统的C++训练，而在具体的项目中，比如SLAM算法框架中，通常的代码并不是我们在书上看到的那样简单直白。很多同学在学习SLAM的过程中感觉C++是一座难以跨越的大山，学习过程漫长而痛苦，项目开发遇到bug也不会调试，书看完了代码还是不会写，代码一改就错，一错就懵。

长按或扫描查看系统教程大纲

C++编程进阶与提升

很多同学在学习SLAM的过程中感觉C++是一座难以跨越的大山，学习过程漫长而痛苦，项目开发遇到bug也不会调试，书看完了代码还是不会写，代码一改就错，一错就懵。

大家在做工程项目的时候还会遇到很多实际问题，本课程帮你彻底搞懂指针、容器、内存、代码调试、多线程、CMake等。仅整个讲义都有200页左右，是一部超级实用的C++学习手册。

本课程坚持从实践中学习，坚持学以致用，用代码提升学员对知识的掌握。语言开发我们一直倡导学习中“多踩坑”，但是我们是带着学员有目的、方向明确的踩坑，这样能够加深学员对知识的理解，在项目开发中“少踩坑”。

学完本课程，你可以很好的应对C++知识相关的面试，对代码编译、库、链接有一定的认识，对CMake、Eigen能较好的使用，能够对设计模式有一定的理解。

长按或扫描查看系统教程大纲

相机标定技术框架

1. 相机标定是指借助专用的标志物（如棋盘格）来估计相机的图像传感器参数（内参、外参）和镜头参数（畸变系数）。

2. 它是一种计算相机二维图像和三维世界相对映射关系的一种方法。标定相机过程涉及相机成像模型、多视图几何、非线性优化等知识。

3. 相机标定是三维视觉的基础。

毫不夸张的说，相机标定是一切三维视觉的基础。它广泛应用于双目视觉、手眼机械臂、机器人定位建图、图像拼接、三维重建等场景。

长按或扫描查看系统教程大纲

SLAM传感器与算法部署实战

学习SLAM过程中我们会遇到很多坎坷，如果没人指点，可能会花费大量的时间走弯路，尤其是涉及到传感器和算法部署的环节，错误/bug不断，很多同学不知如何下手。课程详情重磅上线！SLAM传感器与算法部署实战

问题主要集中在：

• 编程能力不足，遇到运行错误，心里慌不知如何解决

• 不知如何选择传感器型号，参数，更不知道如何使用

• 传感器跑算法要标定、调bug，问题太多，始终跑不起来

• 好不容易跑通，效果贼差，不知如何调参

• 无人交流，更无人指导，瞎摸索，无数次想放弃

基于此，计算机视觉life历时几个月精心准备，开设了首个系统讲解《SLAM传感器及算法部署实战》课程。最终课件预计达上百页。

• 课程全面细致。涉及常见SLAM传感器的介绍、操作、标定、实测使用，并在目前所有主流的SLAM框架（视觉/视觉惯性/激光惯性/视觉-激光-惯性SLAM）上进行了部署。

• 大量的实际操作，帮助初学者节省大量环境配置找bug的时间，快速上手。

• 学员可加入课程专属答疑群交流提问。

• 组织团购传感器，配套课程实操，学习效果事半功倍。

机器人运动规划

运动规划和SLAM什么关系？

其实在企业里，SLAM算法工程师、运动规划工程师通常是相对独立的岗位，SLAM技术通常可以得到稀疏的定位地图，结合后处理可以得到稠密的三维点云地图。此时我们需要用一定的规则将其转化为栅格化地图，机器人在这个地图的基础上进行运动规划（导航）。SLAM和运动规划是自主机器人的两个核心技术。

简单来说，解决机器人导航问题一般被称为运动规划，就是让机器人可以自主根据传感器获取外部环境信息，在当前环境中找到一条适合机器人行走的最佳路径。这不是一个简单的工作，因为地图可能发生变化，其他运动的物体也是必须要绕过的障碍物，所以常常需要更改自己的规划，如何在这种复杂的环境下高效率地实现最佳路径，就是运动规划的使命。

运动规划在移动机器人的应用

独家注释代码

https://github.com/felderstehost/ros-navigation-noetic

长按或扫描查看系统教程大纲

学机器人SLAM/3D视觉，就上cvlife.net ！

独家重磅课程官网：cvlife.net

全国最大的机器人SLAM开发者社区

↓点击“阅读原文”跳转教程官网