文章投稿:2022 ICPR
《Hierarchical Cross-Modal Agent for Robotics Vision-and-Language Navigation》2021 ICRA
代码:https://github.com/GT-RIPL/robo-vln
视觉和语言导航任务以及我们提出的SASRA代理。我们的主要新颖之处在于,通过使用跨模态语义语言注意力映射转换器(SLAM-T),为VLN采用了混合转换器递归模型。在每个时间步长t,代理根据视觉观察生成局部语义图。代理在空间(语义图和语言之间的跨模态注意)和时间(通过时间保持先前的状态信息)域中与环境一致推理,以解码每个时间步长的低级动作(at)。
考虑如图1所示的指示:“穿过走廊向前走,然后左转进入卧室。在左边的沙发旁等着”。在遵循这一指令序列时,代理必须