凤凰涅槃，人工智能的凤凰计划时刻已经到来！

最新推荐文章于 2024-09-15 15:29:29 发布

「已注销」

最新推荐文章于 2024-09-15 15:29:29 发布

阅读量751

点赞数

分类专栏： AI 热点文章文章标签：人工智能

本文链接：https://blog.csdn.net/duxinshuxiaobian/article/details/104322665

版权

本文探讨了人工智能在无人驾驶等领域的挑战，指出即使最先进的AI也会面临现实世界的极端情况。通过提及DARPA的Duck Aware概念和红色团队（人工智能红队）的角色，强调了解决这些问题的重要性。文章提出，为了实现真正的无人驾驶，需要类似DevOps的MLOps策略，以应对不断出现的极端案例。人工智能正处在类似凤凰计划的关键时刻，需要从错误中学习，不断提升其情境理解和通用推理能力。

摘要由CSDN通过智能技术生成

全文共4301字，预计学习时长13分钟

来源：xiaoxue.tuxi

科技的进步往往建筑在不断“试错”的基础之上，而“试错”的过程倾注的不仅是心血、汗水，甚至还包含了生命。

2018年的一个深夜，在亚利桑那州一条荒凉的双车道高速公路上，伊莱恩·赫茨伯格(Elaine Herzberg)发生了意外。她成为首位被无人驾驶汽车撞死的行人。

100多年前一辆汽车价值290到520美元

122年前，一位名为布里奇特·德里斯科尔（Bridget Driscoll）的女性与她有着相似的悲惨命运。1896年，德里斯科尔死于一项更早的实验技术:一辆汽车，当时她正在伦敦街头漫步。

公众喜欢将人工智能视作超人，或者说在某种程度上它们的确是超人般的存在。人工智能可以击败世界围棋游戏中最好的玩家或DOTA 2这款极其复杂的实时策略游戏中99％的玩家。

但这并不是说它们完美无瑕，因为即使是目前世界上最先进的人工智能也会犯严重错误，其中甚至包括大多数人认为很容易就能克服的错误。

当将人工智能从棋盘游戏和电子游戏的狭窄领域中带出来，并投入到现实世界，那么将迎来无数的极端案例和意想不到的情况。这一点在高风险的自动驾驶汽车领域表现得尤为明显，在这个领域，每一次失误都可能意味着生与死的较量。

Lyft无人驾驶汽车部门研发主管吕克•文森特(Luc Vincent)表示，无人驾驶汽车可能出现的问题“几乎数不胜数”。

Lyft公司发现，当无人驾驶汽车被其他司机拦截，刹车时会发出砰的一声。另一家无人驾驶汽车公司Zoox发现，他们的汽车无法识别黄色左手转信号灯，因为大多数转向信号灯为绿色，因此他们不得不请艺术家来画黄色转向灯，然后将其装入模拟软件。不久后，Zoox的汽车在现实世界中能更精确地识别黄色信号灯，但无论怎么努力，总有极端情况出现。