【论文学习】感知系统的监测 Monitoring of Perception Systems

Monitoring of Perception Systems: Deterministic, Probabilistic, and Learning-based Fault Detection and Identification?

原文连接：https://arxiv.org/abs/2205.10906

Abstract

        本文调查了感知系统的运行时监控。感知是机器人和自主系统高完整性应用的关键组成部分，例如自动驾驶汽车。在这些应用中，感知系统的故障可能会危及人类生命，广泛采用这些技术需要开发方法来保证和监控安全运行。尽管感知的重要性至关重要，但目前还没有针对系统级感知监控的正式方法。在本文中，我们形式化了感知系统中运行时故障检测和识别的问题，并提出了一个框架，使用诊断图来建模诊断信息。然后，我们提供了一组确定性、概率性和基于学习的算法，利用诊断图进行故障检测和识别。此外，我们还调查了基本限制，并对故障检测和识别结果提供了确定性和概率性保证。最后，我们通过在LGSVL开源自动驾驶模拟器中重新创建几种现实故障模式，并将提出的系统监控应用于最先进的自动驾驶软件堆栈（百度的Apollo Auto），进行了广泛的实验评估。结果表明，提出的系统监控优于基准线，在现实的自动驾驶场景中有防止事故的潜力，并且计算开销可忽略不计。

关键词：自动驾驶，感知，安全，运行时监控。

1. Introduction

        自动驾驶汽车（AVs）在我们的道路上的数量正在迅速增加，该领域的主要参与者已经向公众提供了自动驾驶乘车服务。自动驾驶汽车承诺深刻改变个人出行方式，并有潜力提高安全性、效率（例如通勤时间、燃料消耗），并引发整个城市设计范式的转变。推动这种技术采用的一个关键因素是确保和监控安全运行的能力。以2018年Uber的致命自动驾驶事故为例：国家交通安全委员会的报告指出，“不足的安全文化”是导致自动驾驶汽车与行人发生致命碰撞的原因之一。在最近的一项调查中，美国汽车协会（AAA）报告称，具有自动驾驶功能的车辆在避免与其他汽车或自行车发生碰撞方面一直表现不佳。Business Insider的分析发现，2021年涉及AV的事故数量激增。这清楚地表明该行业需要一种牢固的方法论，嵌入到设计过程中，以确保安全并建立公众信任。安全运行要求AV正确理解其周围环境，以避免不安全行为。特别是，AV依赖车载感知系统提供情境感知，并通知车载决策和控制系统。感知系统利用传感器数据和先验知识（例如高清地图）来创建周围环境的内部表示，包括其他车辆和行人的位置和速度估计，或者交通标志和交通灯的存在。现代感知系统使用数据驱动和经典方法。虽然经典方法在信号处理和估计理论中有坚实的基础，并在机器人技术和计算机视觉领域得到了广泛研究，但在实践中仍可能出现意外故障模式，例如3D物体姿态估计中的迭代最近点局部收敛或鲁棒估计技术（例如RANSAC）的过早终止，还有许多其他示例。使用数据驱动方法进一步加剧了确保感知输出正确性的问题，因为当前的神经网络架构仍然容易产生意外且常常是不可预测的故障模式。确保和监控AV感知系统的正确运行是一个重大挑战。行业严重依赖模拟和测试来提供安全证据。尽管对安全认证和运行时监控领域越来越感兴趣，但文献中缺乏一个系统级框架，用于组织和推理运行时可用的诊断信息，以便检测和识别潜在的感知系统故障。可靠的运行时监控将使车辆更好地了解其运行条件，并在发生严重故障时及时采取足够的行动以保障安全（例如切换到故障安全模式或将控制权交给人操作员）。在本文中，我们将术语“故障”（或“错误”）以一般意义使用，也用于表示预期功能的失败。例如，神经网络可以正确执行（例如，在实现或运行网络的硬件中没有错误），但仍可能对超出分布范围的输入产生不正确的预测。然后，故障检测是检测系统中故障存在的问题，