万字长文聊一聊端到端方案与安全的底层逻辑

万字长文聊一聊端到端方案与安全的底层逻辑

“这是两个维度的问题，答案不应该是二选一。

就像如果问工作是赚钱重要还是能够提升能力重要，赚钱与不赚钱是二选一，能够提升能力和不能够提升能力二选一，所以工作是分四象限：1能赚钱又能提升能力；2能赚钱但对提升能力不大；3赚钱不多但能提升能力；4既赚不到钱对能力提升也没作用。然后答案也是多元的，1是一定会选的，4是一定不选，如果目前是刚工作的人，可能选3比较合适，提升能力重要。如果是一个经验比较丰富的人，可能选2比较合适，赚钱重要。

同理，汽车的智能和安全也是一样：1.足够安全又足够智能；2.足够安全但不足够智能；3.不足够安全但足够智能；4.既不安全又不智能。1一定是大家都追求的；4一定是大家都摒弃的；2对于传统和保守的驾驶者可能比较受青睐，或者对于家庭用车需求，可能更看重安全；3对于喜欢新鲜事物的年轻驾驶者可能比较受青睐，通过在危险场景下人工接管来人工保障安全，正常场景下尽可能享受智能化带来的驾乘体验。

对于车企来说，1应该是追求的目标，在当前能力无法满足的前提下，针对2和3的情况可以分别制定战略。对于面向家庭用车及追求安全的客户群体的车型，应把安全作为第一位，在可能的情况下，添加智能化功能；对于面向追求智能化的客户群体的车型，应把智能化作为重要追求，然后对于可能不安全的情况全面说明，给出应对策略，组织用户培训等进行基本安全保障。但最终的追求目标一定是朝着1既安全又智能去努力。

所以个人认为这个问题是二维的，我们不能用一维的答案智能或安全来简单回答，而是要基于二维空间来求解答案，制定不同的策略。”

附赠自动驾驶最全的学习资料和量产经验：链接

通过这个问题，让我发现，有时候我们所纠结的问题并不是客观存在的问题，而是我们的逻辑不对，我们把原本没有可比性的两个内容进行对比，还一定要从二者之间取其一，这本身就是错误的思维方式。所以无论是做一件事情，还是分析一个问题，大到商业战略，小到个人生活成长，看清事物底层逻辑才是最重要的，否则就容易陷入思维误区，自然会做出错误的决策与行为。

由此，我联想到目前端到端方案与安全的纠葛纷争，最近这半年，工作之余思考行业发展时，我也常常陷入对人工智能安全性的迷茫中，而通过回答知乎这个提问，让我从另一个角度去回顾这半年来的纠结，我是不是逻辑搞错了？！于是我开始思考端到端与安全的基本逻辑关系。

现在技术发展太快了，快到我们还没想清楚这个技术问题，它就已经被新技术取代了。大概两三年前，我还在探索CNN，RNN这些神经网络是怎么回事，还记得有次例会上和当时首席科学家黄浴博士请教过神经网络的安全问题，他的指导让我有了些许方向；然后一两年前，又开始琢磨BEV鸟瞰图有什么不同，然而今年这些都不再是关注的焦点，端到端成为了热门话题。

2024年3月，特斯拉开始在北美地区大范围推送FSD V12端到端智驾系统方案，FSD V12表现优秀，给用户带来前所未有的良好驾乘体验，从此打开了端到端智驾解决方案的“潘多拉魔盒”，使得“端到端”成为2024年智能汽车领域高频出现的词汇，无论车企还是智驾解决方案供应商都开始对端到端充满向往，陆续开始了端到端的探索之路。智能驾驶的技术路线从CNN、RNN等神经网络开始演进至Transformer大模型，端到端技术作为一种新兴的技术趋势，正受到日益广泛的关注。

智能驾驶的端到端解决方案，其实就是通过人工智能模型来统一实现从感知到预测再到决策规划的整个驾驶过程，与传统的模块化、规则化思路有所不同，因此在技术方案上与传统智驾技术具有一些根本性差异。

这种根本性差异，使得端到端技术如火如荼的兴起的同时，也引发了行业内功能安全从业者的广泛质疑，不只是我的迷茫，也有其他人的否定。我经常能够听到“安全圈”里的朋友们吐槽端到端的不靠谱、对端到端技术的安全性充满焦虑。因为功能安全的本质是追求一种确定性，而人工智能恰恰违背了确定性，它就像一个黑盒子，并不具备可解释性，我们无法获知它内部具体如何运行或如何推理，自然没有什么确定性而言。这就好像我和你是好朋友，我虽然也了解你的性格，但是对一件事物的看法，我依然没法准确评估你的想法决策，人工智能虽然和人脑思维方式并不完全相同，但是可以通过这样的类比来理解。而传统的智驾方案，虽然感知模块普遍采用人工智能算法，但是在后处理以及决策规划上还是有很多基于规则的算法，可以从功能安全的角度去加以防护。就像我们生活中无论想做什么不靠谱的决定，由于有法律法规的约束，有执法部门的监督，大多数人还是能够按照正确的方式来做合法合规的事。而对于端到端方案，规则算法的内容几乎都被人工智能算法取代，没有了任何确定性的约束，系统似乎变成了一个盲盒，所以很多人对其安全性表示担忧。

面对端到端技术的态度，目前是两极分化。

• 一边是特斯拉的忠粉以及国内车企的创新先驱们，渴望创新技术带来突破性的舒适体验，对端到端技术怀揣信仰；

• 一边是来自传统行业的安全守护者们，曾经历目睹过太多由于技术问题、流程问题导致的事故悲剧，对安全怀揣敬畏之心。

所以在端到端大模型与安全之间必然会存在长期的纠葛纷争，我想基于我最近关于端到端与安全的基本逻辑思考，来聊一聊这个话题，但是并不讨论是非对错，况且这件事本身也没有对错，也不讨论技术与安全理论细节，而是从底层逻辑出发，去探索端到端技术与安全关系的底层逻辑，挖掘事务的本质，以便找到解决问题的方法。本系列文章计划从以下三个部分展开探讨，每个部分大概三千字左右的内容：

• 第一部分：非公理体系

• 第二部分：概率驱动

• 第三部分：博弈论

读到这里，你也许会有点迷惑了，感觉这三个方面与端到端、安全都不沾边，有点跑题了，我再进一步解释一下，也许你就会明白一些。

• 端到端和安全都不是公理体系，没有唯一的答案。

• 端到端和安全都是由概率驱动，本质并不矛盾。

• 端到端的创新与安全的坚守是一场博弈，最终一定会找到最优解。

如果这三部分都放在这篇文章里，一是编写时间会比较长，所以先把写完的及时发出来；二是整体篇幅可能会有点长，由于我们都是用碎片化时间来阅读公众号文章，我自己不喜欢读公众号长文，所以我也尽量控制篇幅，后续用三篇系列文章来分别阐述这三个逻辑。今天先把观点抛出来，周末的时候会加急码字，从这三方面的内容，对端到端方案与安全的关系进行解读，感兴趣的话可以持续关注。当然，你也可以有不同的见解，甚至有反对意见，但相信或多或少能够给你带来一点思维启发。