对待GPT-4要保持冷静——对话罗德尼·布鲁克斯(2)：别再把效率与能力混为一谈

R.B： Stephen Wolfram 的一篇长篇博文对于AI技术方面的问题给出了非常好的解释。大型语言模型擅长的是给出一个听起来很像是答案的回应，但是这与答案实际上应该是什么有着本质的区别。

RODNEY BROOKS: CHRISTOPHER MICHEL/WIKIPEDIA; BACKGROUND: RUBY CHEN/OPENAI

Q：有报道称，自从去年1月ChatGPT-3.5风靡一时后不久，OpenAI正在考虑一项对该公司估值近300亿美元的收购案。微软的实际投资额应该有100亿美元。关于会此应用程序的结果，您认为我们是否能得正面的反馈，说明这些投资额是合理的？

R.B：我觉得可能不会。我认为微软最初的投资是通过云计算实时跟进的，而不是通过现今来结算。OpenAI自然需要“云计算时间”来构建这些模型，因为它们在所需的计算方面非常昂贵。我认为我们将会看到的是更流畅的语言界面、输入和输出。但是你必须小心地把内容放进去，这样就不会产生超纲的东西，同时也能避免产生一些编造的内容。

所以你必须把东西装箱，因为它不是数据库。它只是编造听起来不错的东西。但是如果你把它装箱，你可以获得比我们以前更好的语言。 

“我认为它们会比 Watson Jeopardy 更好！程序，IBM 说，“它将解决医学问题。” 完全没有。这是一个彻底的失败。我认为它会比那更好。”               ——罗德尼·布鲁克斯《人工智能机器人》

Q：当烟雾散去时，你认为我们会有主要应用吗？我的意思是，抛开它们是否证明投资或估值合理的问题，它还会留下印记吗？

R.B：我认为这将是另一件有用的事情，可以变成更好的语言输入和输出。由于缓冲了大量令牌，您可以获得更好的上下文。但是你必须把它装箱太多……我开始看到论文，如何将其他东西放在语言模型之上。有时它是传统的 AI 方法，每个人都已经忘记了，但现在它们又回来了，作为一种限制它的方式。

在过去的 50 年里，我总结了大约 30 或 40 个这样的事件，这将成为下一件大事。他们中的许多人都被证明是彻头彻尾的哑弹。它们很有用，就像90 年代的国际象棋程序一样。那应该是人类下棋的终结。或者说，这不是人类下棋的终结，因为国际象棋现在变成了一种不同的游戏，这点很有趣。

但只是为了阐明我认为大型语言模型的用武之地。IBM说，“它将解决医学问题。” 其实并没有。这是一个彻头彻尾的失败。我认为它会比那更好，但不是通用人工智能。

一位非常有名的资深人士说，'放射科医生不久就会倒闭。' 人们不再注册放射学专业，现在放射学专业很短缺。——罗德尼·布鲁克斯《人工智能机器人》

Q：那么你怎么看待关于整个职业类别、律师助理等职业将会消失的预测？这是一个合理的担忧吗？

R.B：你肯定听说过这些事情。几个星期前我正在审查一份政府报告，它说，“律师将在 10 年内消失。” 所以我找来这份报道阅读了。作者是英国的一位大律师，但是他对人工智能一无所知。他说，“当然，如果它这么好，它会变得更好，我们将在 10 年内失业。” 关于这方面的新闻，其实有很多煽动人心的炒作。有人提出建议，它会被放大。

我们在放射科医生身上看到了这一点。一位非常有名的资深人士说，“放射科医生很快就会倒闭。” 人们不再注册放射学专业，现在放射学专业很短缺。与卡车驾驶相同...... 所有这些公司都发布了很多招聘卡车司机的广告，因为卡车司机不够，因为三四年前，人们在说，“卡车司机将会消失。”

Q：事实上，六七年前，就有人预测我们现在将拥有完全自动驾驶的汽车。

R.B：有很多这种预测。各大汽车公司的CEO们都在说，有的说到2020年，或者2021年、2022年，总之没有确切的时间点。

Q：5级的全自动驾驶离我们似乎还很遥远。还是说我错过了这方面的信息？

R.B：不，它确实离我们很远。我认为现在汽车中的 2 级和 3 级东西非常好。如果你买了一辆崭新的车并且花了不少钱，那真是太好了。5 级，甚至 4 级都不是那么多。我住在旧金山市，近一年来，如果不是大雾天，我可以在晚上 10:30 之后和凌晨 5:00 之前乘车——我已经能够乘坐乘坐没有司机的Cruise 车辆。就在过去几周，Cruise 和 Waymo 与这座城市达成了一项协议，我现在每天都能看到汽车，因为我白天开车，车里没有司机。

Q：据称，仅在今年前三个月，通用汽车就在 Cruise 上损失了 5.61 亿美元。

R.B：这就是他们进行这项工作所花费的成本。不仅离盈亏平衡还有很长的路要走，而且离收支平衡都还有很长很长的路要走。

Q：所以我想问的问题是，即使像通用汽车这样的公司也能从这里走到那里，在那里它可以赚取巨额利润吗？

R.B：我对此感到疑惑。我们已经看到很多努力都失败了。有那么多不同的公司都在尝试这样做，这有点不合理。也许，现在我们合并为一两个努力，我们会逐渐实现目标。但这是另一个案例，我认为炒作让我们放慢了脚步。在 90 年代，有很多研究，特别是在伯克利，关于可以在高速公路上嵌入哪些传感器可以帮助汽车在司机不注意的情况下行驶。因此，放置传感器、改变基础设施并改变汽车以便它们使用新的基础设施，你会变得注意力不集中。

其中一个标准流程有 4 teraflops——在一块成本为 5 美元的硅片上每秒进行 400 万次浮点运算。这只是令人兴奋的计算量。—罗德尼·布鲁克斯《人工智能机器人》

但随后炒作来了：“哦，不，我们甚至不需要那个。再过几年，汽车就会自动驾驶。你不需要改变基础设施。” 所以我们停止改变基础设施。而且我认为这使整个自动驾驶汽车的通勤速度减慢了至少 10 年，也许 20 年。现在有几家公司又开始这样做了。

使这些事情成为现实需要很长时间。

Q：我不太喜欢开车，所以当我看到 1950 年代流行杂志上的这些照片时，人们坐在泡沫圆顶汽车里，面对面，四个人在高速公路上玩牌，我也算在内。

R.B：当然。作为一个物种，人类，我们已经多次改变了我们的移动基础设施。在 1800 年代初期，是蒸汽火车。我们必须对我们的基础设施进行巨大的改变。我们必须在不同国家铺设平轨。从 19 世纪到 20 世纪，当我们开始使用汽车时，我们改变了道路。我们改变了法律。人们再也不能像以前那样走在马路中间了。

我们改变了基础设施。当你从一个人驾驶的火车变成自动驾驶火车时，比如我们在机场和其他一些地方看到的那样，基础设施就会发生彻底的变化，这样你就不可能让一个人在轨道上行走了。我们试图在不改变基础设施的情况下实现这种[向自动驾驶汽车]的转变。如果要进行重大更改，则始终需要更改基础架构。