高翔--基于深度神经网络的无监督视觉SLAM回环检测算法（更新中）

Unsupervised learning to detect loops using deep neural networks for visual SLAM system****随读笔记

写在前面

刚开始定的方向是SLAM，但是有太多师兄的课题都是这个了，老师让我接着往下研究语义SLAM，但是语义SLAM能找到的文献真的很少。SLAM入门学习的就是高翔博士的《SLAM十四讲》，所以在刚接触语义SLAM时，也很自然想查找高翔博士的相关研究成果。如果哪位有语义SLAM的相关开源代码，请在评论区分享给我，蟹蟹～

摘要

SDA（堆叠去噪自动编码器），一种多层神经网络，以无监督的方式从原始输入数据自动学习压缩表示。不像传统词袋模型需要人工标记特征，深度学习可以学习数据复杂的内部结构。最后实验通过与Fab-map2.0进行比较，（Fab-map2.0 open-source project）。

1介绍

回环检测是检测机器人行进过程中先前访问过的地方。如果可以正确检测回环，机器人可以重定位自身位置，可以消除累积误差，获得全局一致性的地图。基于位姿图的SLAM系统，回环将在图中添加额外的约束，减少优化误差。基于滤波器的回环检测算法中，回环被视为数据关联问题，这极大影响了滤波器的收敛性。在本文的研究中，轨迹由一系列的关键帧构成。 回环检测最简单的方法是对所有特征进行暴力匹配，但是此方法太耗时。另一种实用的方法是随机检查先前帧的子集，一旦发现了一个回环，计算相邻帧的生成树，并使用g2o等姿势图工具优化整个轨迹。然而，这种方法是无目的的，并且随着轨迹变长，检测到真实回环的可能性降低。

其他的方法利用里程计信息或观察信息。基于里程计的方法搜索接近当前位姿的关键帧，前提是假设之前的轨迹都是足够精确的。 基于观察的方法利用词袋模型，建立词典，当一个新的观察到来的时候，从词袋中进行特征匹配，用一个向量表示该帧中是否拥有词典中每个单词。向量值的差异判断是否为回环。词袋模型有一定的局限性：（1）假阳性：看起来相似但是并非同一场景被认定为回环；假阴性：实际为回环却看起来不相似。（2）词袋模型利用的是人工标记的特征，特征种类不断增多，同时，人工仍无法区分表示一个盒子或者一把椅子。
深度学习方法可以解决上述问题，深度学习方法利用多层神经网络直接从原始传感器数据中学习数据表示，用于物体分类和识别。本论文对于堆叠自动编码器的修改是基于相机运动的连续性。

2学习特征

堆叠自动编码器利用上一个自动编码器的输出作为下一个编码器的输入，单个的自动编码器（DA）由三层组成：输入层x；隐藏层h；输出层y。自动编码器的结构是恢复输入，使y～=x。假设a为输出，x为输入，函数为：

w为权重，b为偏差，模型的优化目标为w和b。隐藏层的输出与输出层的输出分别为：

式中y与x不应该是恒等的，这样的训练没有效果。在SDA中实际利用最后一个隐藏层的输出作为实际输出，而不是y。通过最小化重构误差来训练w和b，通常采用的是***交叉熵损失***定义输入与输出的距离。

采用随机梯度下降（SGD）方法来训练参数。随机梯度下降将训练分成很多小的单元，每个单元沿着下降梯度方向根据学习率不断更新：

当目标函数收敛到局部最小值时，算法停止。
自动编码器因为输入数据存在噪声，所以在输入时对x进行腐坏。最大限度地利用无类标数据 ，用未受到噪声干扰的数据将原始数据估计出来。此时损失函数变为：

将前N个特征点调整为小的图像块进行矢量化，然后输入网络。如果两个帧的相似性超过阈值，则检测到回环。在可视化的相似性矩阵里，亮块则表示该区域可能有一个回环。
SDA一层一层贪婪的训练，通过改变损失函数的形式来修改传统的DA：

$c_d$是输入输出的交叉熵距离；$c_s$是稀疏性约束；$c_c$是连续性约束。
连续性约束防止算法学到恒等表达式，并获得稀疏性结果，我们不希望在许多隐藏层具有非零响应时获得完整的结果。相反，我们希望DA在训练好的数据中找到有特色的东西同时可以屏蔽噪声。活动单元应该是少的并且输入图像不同响应不同。
（1）稀疏性惩罚是通过惩罚隐藏层单元的平均输出来实现的：