探索人工智能的未来：埃里克·施密特2024斯坦福大学分享三

嗯，让我们谈谈正在进行的一场真正的战争。

我知道您一直非常关注乌克兰战争，特别是关于白鹳无人机以及用50万美元的无人机摧毁500万美元坦克的目标。这种策略如何改变了战争？我曾为国防部长工作了七年，试图改变军队的运作方式。虽然我对军队并没有特别的热爱，但因为军费极其高昂，我想看看能否做出一些贡献。

然而，坦白说，我认为自己基本上失败了。他们给了我一枚勋章，所以也许他们给失败者颁发勋章或者是其他什么的。但我自我反省时认为，没有什么真正改变。美国的体制并不促使真正的创新。因此，当我看到俄罗斯人用坦克摧毁载有老太太和孩子的公寓楼时，我简直要疯了。于是我决定和您的朋友塞巴斯蒂安·特伦（Sebastian Thrun）合作，他曾是这里的教员，还有一群斯坦福的人。

这个项目基本上有两个目标。首先，以复杂而强大的方式将人工智能应用于这些战争机器，基本上是机器人战争。其次，降低这些机器人的成本。现在，您可能会想，为什么像我这样的自由主义者会这样做？答案是，军队的整个理论基础是坦克、火炮和迫击炮，而我们的目标是消除所有这些武器。通过这种方式，我们可以让通过陆地入侵一个国家的代价变得几乎无法承受，从而消除那种陆战。

这是否会给防御带来相对于进攻的优势？您能否甚至做出这样的区分？在过去的一年里，我在这个领域学到了很多关于战争的知识，虽然这些知识并非我真正想了解的。战争的一个重要事实是，进攻总是占优势，因为您总是可以压倒防御系统。因此，作为一种国防战略，您最好拥有一个非常强大的进攻系统，以备不时之需。而我和其他人正在建造的系统将实现这一点。由于系统的运作方式，我现在是一名有执照的军火商，同时也是一名计算机科学家和商人。这是一种进步吗？我不知道，但我并不建议您在您的小组中走这条路。

我一直坚持在人工智能领域努力。由于法律的规定，我们私下进行这些研发，然后在政府的支持下合法地推进。设备被直接运往乌克兰，然后投入实战。这些细节不便透露，但情况相当严峻。我认为如果在五月或六月，俄罗斯如预期般集结，乌克兰将失去大片领土，并开始失去整个国家的过程。

情况非常严峻。如果有人认识玛乔丽·泰勒·格林（Marjorie Taylor Greene），我鼓励您从您的联系人列表中删除她，因为她是唯一一个阻止提供数十亿美元来拯救一个重要民主国家的人。

现在我想切换到一个更哲学性的问题。去年，您与亨利·基辛格（Henry Kissinger）和丹·赫滕莱克（Dan Huttenlecker）共同撰写了一篇关于知识本质及其演变的文章。前几天，我也在讨论这个问题。

在人类历史的大部分时间里，我们对宇宙的理解是神秘而朦胧的，直到科学革命和启蒙运动带来了巨大的转变。您在文章中指出，现今的模型变得如此复杂和难以理解，我们甚至无法完全理解它们内部的运作。我引用理查德·费曼（Richard Feynman）的话：“我无法创造的东西，我就无法理解。”我前几天还看到了这句话。但现在，人们在创造他们能够创造的东西时，未必真正理解其中的内涵。

知识的本质是否正在发生变化？我们是否必须开始仅仅依赖这些模型，而它们无法向我们解释其内在机理？我给出的类比是青少年。如果您有一个青少年，您知道他们是人类，但您无法完全弄清楚他们在想什么。然而，社会已经适应了青少年的存在，并且他们最终会长大成熟。

所以很可能我们会有一些我们无法完全描述的知识系统，但我们理解它们的边界和它们的能力。这可能是我们所能达到的最佳结果。您认为我们能理解这些限制吗？

我相信我们会做到很好。我每周参加的小组的共识是，最终您实现所谓的对抗性人工智能的方式是，实际上会有公司专门受雇于此，负责破坏现有的人工智能系统，尤其是那些我们无法完全理解的知识系统。对我来说，这很有道理。

对于斯坦福来说，这也是一个很好的项目。如果您有研究生必须弄清楚如何攻击这些大型模型并理解它们的运作，这将是培养下一代的一项绝佳技能。我认为这两者将会共同发展。

好吧，现在让我们接受一些学生的问题。后面有一个同学，请告诉我们您的名字。

早些时候您提到的内容与此相关，即获得真正按照您期望方式工作的人工智能。您刚刚提到对抗性人工智能，能否对此进行更多的阐述？看起来除了显而易见的计算语言原因之外，还需要解决模型性能的问题，但让它们按照您希望的方式运行，部分问题似乎还没有解决。

嗯，您必须假设随着技术的进步，当前的幻觉问题会减少。我并不是说它会消失。而且您还必须假设存在有效的测试方法。因此，必须有一种方法能够知道是否超出范围。比如在我给出的 TikTok 竞争对手的例子中，我并不是在建议您非法窃取每个人的音乐。如果您是硅谷的企业家，希望你们所有人都会成为，那么如果您的产品成功了，您会雇佣一群律师来清理这个烂摊子，对吧？但如果没有人使用您的产品，那么您窃取所有内容都无关紧要。

请不要引用我的话。是的，您在镜头前，但您明白我的意思。换句话说，硅谷会进行这些测试并清理烂摊子。通常就是这样处理这些事情的。所以我认为您会看到越来越多高性能系统，并且它们会有更好的测试，甚至对抗性测试，从而控制在一个范围内。技术术语叫做“思维链推理”。

人们相信在未来几年内，您将能够生成一千步的思维链推理。对吧？就像构建食谱一样，您可以运行这个食谱，并实际测试它是否产生了正确的结果。这就是系统的运作方式。

下一位同学，您请。

总体来看，您似乎对人工智能的潜力非常乐观。我很好奇，您认为是什么在推动这一点？是更多的计算能力？是更多的数据？还是有根本性的转变？

是的，我同意。投入的资金数额令人难以置信。我选择投资于一切，因为我无法预测谁会赢。随着大量资金的涌入，那些不知道自己在做什么的大资金人士也必须涉足人工智能领域。现在一切都是人工智能投资，所以他们无法区分什么是真正有效的。我将人工智能定义为学习系统，真正的学习系统。

第二个原因是，新的复杂算法出现了，特别是后Transformer类型的。我的一位朋友和合作者长期以来一直在发明一种新的非Transformer架构。在巴黎，我资助的一个小组也声称做了类似的事情。斯坦福这里也有很多创新发明。最后，市场上有一种信念，认为智能的发明具有无限的回报。

假设您向一家公司投入了500亿美元的资本，您必须从智能中赚取大量的利润来回收这笔投资。因此，很可能我们会经历一个巨大的投资泡沫，然后它会自行解决。历史上，这种情况一直发生，现在也很可能如此。

您之前提到，您认为在人工智能领域，领导者正在与其他人拉开差距。在法国，有一家名为Mistral的公司，他们做得非常好。我显然是一个投资者。他们已经推出了第二个版本，他们的第三个模型可能会是封闭的，因为成本太高，他们需要收入，而不能免费提供模型。

在我们的行业中，关于开源与闭源的争论非常激烈。我个人的职业生涯基于开源软件，人们愿意分享代码。谷歌的很多基础也是开源的，而我的技术也是如此。然而，高昂的资本成本可能会从根本上改变软件的开发方式。

关于软件程序员的生产力，我的看法是至少会翻倍。有三四家公司正在努力提升软件程序员的生产力。最近，我遇到了一家名为Augment的公司，我总是想到个体程序员。他们说，那不是我们的目标。我们的目标是帮助由100人组成的编程团队，他们处理数百万行代码，而没人知道发生了什么。对于人工智能来说，这确实是一件好事。他们会赚钱吗

参考

https://github.com/ociubotaru/transcripts/blob/main/Stanford_ECON295%E2%A7%B8CS323_I_2024_I_The_Age_of_AI%2C_Eric_Schmidt.txt