功能安全-理论到实践-机器学习中罕见事件的重尾分布与自动驾驶系统中的误判行为。

最新推荐文章于 2022-05-06 14:34:30 发布

SafeSecureWare

最新推荐文章于 2022-05-06 14:34:30 发布

阅读量364

点赞数 1

分类专栏：功能安全-26262-理论到实践文章标签：机器学习人工智能

本文链接：https://blog.csdn.net/weixin_45323207/article/details/107029281

版权

本文探讨了自动驾驶系统中罕见事件的重尾分布问题，指出罕见事件的处理对系统的安全性至关重要。卡耐基梅隆大学教授Philip Koopman警告，由于潜在的罕见事件数量大且频繁，系统可能无法达到安全目标。此外，文章讨论了持续学习的利弊，以及预期功能安全SOTIF在确保安全关键机器学习系统中的应用，强调SOTIF与传统功能安全的互补性。

摘要由CSDN通过智能技术生成

卡耐基梅隆大学教授Philip Koopman认为，罕见事件的分布是重尾的（ heavy-tailed ），因为自动驾驶车辆可能在整个产品生命周期中都不会遇到一大群鸡穿过马路的情况，所以，没有合理的理由来训练自动驾驶车辆处理这种情况。但是，如果这些罕见事件(rare events )不被包含在训练数据中的话，当自动驾驶系统遇到一只真正的鸡时，它会出现什么反应？Koopman在《The Heavy Tail Safety Ceiling》一文中给出了一个让人沮丧的结果：
“The heavy tail safety ceiling problem occurs when (a) the total population of latent surprises is relatively large, and (b) the aggregate arrival rate of unacceptably risky latent surprises is more frequent than the system safety target. In this situation the system is not acceptably safe. Worse, ﬁxing surprises as they arrive won’t resolve the problem, because mitigating one type of surprise will not substantively change the size of the large latent surprise population.当（a）潜在突击事件(latent surprise)的总数量相对较大，并且（b）风险不可接受的(unacceptable riky)潜在突击事件(latent surprise)的总到达率(aggregate arrival rate)比系统安全目标(system )safety target更为频繁时，就会发生重