slam特征点深度 svd_视觉SLAM（五）特征点提取与匹配

特征点法视觉里程计

特征点提取与匹配

经典 SLAM 模型中以位姿 路标( Landmark )来描述 SLAM 过程

? 路标是三维空间中固定不变的点，能够在特定位姿下观测到

? 数量充足，以实现良好的定位

? 较好的区分性，以实现数据关联

在视觉 SLAM 中，可利用图像特征点作为 SLAM 中的路标

特征点是图像中具有代表性的部分；

具有可重复性，可区别性，高效，本地的特点

特征点的信息

? 位置、大小、方向、评分等 关键点

? 特征点周围的图像信息 描述子( Descriptor)

特征描述应该在光照、视角发生少量变化时仍能保持一致

例子：SIFT/SURF/ORB(见 OpenCV features2d 模块)

典型的特征点

ORB 特征

关键点： Oriented FAST

描述： BRIEF

FAST

? 连续 N 个点的灰度有明显差异

Oriented FAST

? 在 FAST 基础上计算旋转

描述子

BRIEF

? BRIEF 128 ：在特征点附近的 128 次像素比较

? ORB ：旋转之后的 BRIEF 描述

BRIEF 是一种二进制描述，需要用汉明距离度量

特征匹配

目的： 通过描述子的差异判断哪些特征为同一个点

暴力匹配：比较图 1 中每个特征和图 2 特征的距离

加速：快速最近邻方法(FLANN)

2D-2D 对极几何

特征匹配之后，得到了特征点之间的对应关系

? 如果只有两个单目图像，得到 2D 2D 间的关系——对极几何

? 如果匹配的是帧和地图，得到 3D 2D 间的关系——PnP

? 如果匹配的是 RGB D 图，得到 3D 3D 间的关系——ICP

三角化与深度估计

求E使用八点法来求

从E计算R，t则使用奇异值分解

\[E=U\Sigma V^T

\]

一共会生成四个可能的解，但只有一个深度为正。

\[t_1^{\vee}=UR_Z(\pi/2)\Sigma U^T,R_1=UR^T_Z(\pi/2)V^T\t_2^{\vee}=UR_Z(-\frac{\pi}{2})\Sigma U^T,R_2=UR^T_Z(-\frac{\pi}{2})V^T

\]

SVD 过程中：取\(E = U diag (\frac{\delta_1+\delta_2}{2},\frac{\delta_1+\delta_2}{2},0)V^T\) 因为 E 的内在性质要求它的奇异值为\(\delta,\delta,0\);

? 最少可使用五个点计算 R,t ，称为五点法, 但需要利用 E 的非线性性质，原理较复杂

八点法的讨论

八点法可用于单目 SLAM 的初始化(初始化需要相机运动)

尺度不确定性：归一化 t 或特征点的平均深度(相机运动)

纯旋转问题： t=0 时无法求解

点对数多于八对时：则使用最小二乘法进行求解

有外点时：使用RANSAC进行过滤。

从单应矩阵恢复R,t

八点法在特征点共面时会共面

设特征点位于某平面上：\(n^TR+d=0\)或\(-\frac{n^TP}{d}=1\).

小结

2D——2D 情况下，只知道图像坐标之间的对应关系

? 当特征点在平面上时(例如俯视或仰视)，使用 H 恢复 R,t

? 否则，使用 E 或 F 恢复 R,t

? t 没有尺度

求得 R,t 后：

? 利用三角化计算特征点的 3D 位置(即深度)

? 实际中用于单目 SLAM 的初始化部分

3D-2D PnP

目的：已经 3D 点的空间位置和相机上的投影点，求相机的旋转和平移(外参)

解法：代数的解法/优化的解法

1. 代数解法

a. DLT(direct Linear Trace)

设空间点\(P=(X,Y,Z,1)^T\)，投影点为：\(x=(u,v,1)\) 归一化坐标，则投影关系：\(sx=[R|t]p\)

展开：

? 将它看成一个关于 t 的线性方程，求解 t

? 注意最下一行为\(s=[t_9,t_{10},t_{11},t_{12}][X,Y,Z,1]^T\)

? 用它消掉前两行中的 s ，则一个特征点提供两个方程：

\[t_1=(t_1,t_2,t_3,t_4)^T,\t_2=(t_5,t_6,t_7,t_8)^T,\t_3=(t_9,t_{10},t_{11},t_{12})^T

\]

\[t^T_1P-t^T_3Pu_1=0\t_2^TP-t^T_3Pv_1=0

\]

为求解 12 个未知数，Y一般需要 12/2=6 对点。(超定时求最小二乘解)

? DLT 将 R,t 看成独立的未知量，所以在求出结果后，需要将 t 组成的矩阵投影回 SO(3) 3)(通常用 QR 分解实现)

? 此外，也可代入内参矩阵 K ，但 SLAM 中一般假设 K 已知，所以这里没有代入。

为求解 12 个未知数，需要 12/2=6 对点。(超定时求最小二乘解)

b. P3P:利用三对点求相机内参

c. EPnP /UPnP/...

2. 优化解法： Bundle Adjustment

线性化和雅可比

对3D点求导：

4. 3D-3D ICP

ICP 也可以从非线性优化角度求解，但：

? 已知匹配时， ICP 问题存在唯一解或无穷多解的情况。在唯一解的情况下，只要能找到极小值解，那么这个 极小值就是全局最优值 。

? 所以正常情况下， SVD 结果和优化一样，且优化很快收敛。

注：

? 在激光情况下，匹配点未知，将指定最近点为匹配点。此时问题非凸，极小值不一定为最小值。

? 利用非线性优化可以将 ICP 与 PnP 结合在一起求解。

小结

本章介绍了与特征点相关的视觉里程计部分算法，包括：

特征点是如何提取并匹配的；

如何通过2D-2D的特征点估计相机运动；

三角化原理；

3D-2D的PnP问题，线性解法与BA解法；

3D-3D的ICP问题，线性解法与BA解法。

5. 三角化与深度估计