WROOM:一种用于越野导航的自动驾驶方法
附赠自动驾驶最全的学习资料和量产经验:链接
摘要
本文介绍了WROOM:一种用于越野导航的自动驾驶方法。越野导航是一个具有挑战性的问题,无论是在规划层面来获取平滑的轨迹,还是在控制层面来避免翻车、碰撞障碍物或者被困在崎岖不平的地方。最近有若干项工作使用经典的方法,包括先深度图预测后平滑轨迹规划,并且使用控制器来跟踪它。本文使用Unity游戏引擎中自定义设计的仿真器为越野环境中的自动驾驶汽车设计了一个端到端强化学习(RL)系统。本文通过模仿基于规则的控制器来启动智能体,并且利用近端策略优化(PPO)来改进基于奖励的策略,该策略加入了控制障碍函数(CBF),有助于智能体有效地泛化到现实世界场景中。训练涉及在各种环境中同时进行领域随机实验的智能体。本文还提出了一种新的仿真环境来复现越野驾驶场景,并且将本文所提出的方法部署到一辆真实的越野模型车上。
主要贡献
本文的贡献总结如下:
1)本文引入了一种新型的越野驾驶仿真器,该仿真器可按程序生成具有各种障碍物的随机实验环境,从而训练能够泛化到现实世界场景的智能体;
2)本文提出了一种新型的仿真环境OffTerSim,它逼真地复现了越野驾驶场景,可用于仿真到现实的智能体训练;
3)据我们所知,本文方法是首个通过仿真到现实的强化学习来应对现实世界中越野驾驶挑战的方法,这标志着在该领域中做出了重大贡献。
论文图片和表格
总结
本文为自动驾驶越野汽车开发了一个全面的RL系统,其利用了深度相机输入并且允许模型直接输出控制命令。为了初始化学习过程,本文通过模仿基于规则的控制器来采用热启动。随后,本文利用PPO来增强基于奖励系统的策略,其集成了CBF用于安全性推理。最终的智能体展现了在具有挑战性的地形中导航的能力,并且能够成功迁移到现实世界场景中。