如何理解马斯克暴论“2029年AI将超越人类智慧总和”？

如何理解马斯克暴论“2029年AI将超越人类智慧总和”？

原创 crops 真正的人工智能 2025年03月13日 11:34 广东

所以人们最大的恐惧是这些东西会变得有意识，制造出更好的版本，人类因此会失去控制。世界不再属于我们，而是被我们创造的更高生命形式所占据。

「我们离那有多远？」主持人问。

「嗯，就硅基意识而言，我认为我们正在朝比任何人类都聪明、比最聪明的人类还聪明的方向发展，可能明年或者几年后。」马斯克回答。

「还有更高的层次，比如比所有人加起来还聪明，这大概是2029年或2030年，可能正按时到来。」

马斯克认为人工智能给人类带来好的结果的概率大约是80%，只有20%的可能将导致人类毁灭。

「我认为最可能的结果是超级棒，但也可能非常糟。我觉得不会有中间状态。」

（摘自：《马斯克暴论：5年内AI超越人类总智能，2029年文明终结概率20%！谷歌却在疯狂「玩火」》）

所谓人工智能“比所有人加起来还聪明”，可以有两种理解：

第一种，某一个人工智能，比如可能是某个大模型，比所有人加起来还聪明；

第二种，世界上所有的人工智能，比如所有的大模型加起来，比所有人加起来还聪明。

先说第一种理解，上面这篇文章中还有一段内容：

现在OpenAI变成了一个闭源、追求最大利润的人工智能。

对此，马斯克表示他很困惑，这不应该。

……

马斯克很不满意，但这也激励他去推动Grok AI的发展。

「是的，我觉得Grok至少在追求上是一个最大限度寻求真相的人工智能。」他说。

且不说某个大模型有没有可能“比所有人加起来还聪明”，就算可以做到，但这个世界上绝不会只有一个大模型，就如上面这段马斯克自己所说的，他要创造一个与OpenAI不同的大模型，那么，由于这些大模型的各自主人有着不同的价值观和世界观，他们所创造出来的大模型也就有不同的趋向，因此这些大模型则不可能团结得像一个人一样来共同对付人类。

一方面大模型们之间更可能是对手，会相互竞争、打压对手，另一方面，其中肯定会有些大模型站在人类一边，与人类一起对付另外一些试图消灭人类的大模型。

至于说一个大模型究竟有没有可能比所有人加起来还聪明，一个大模型具有的知识比所有人类加起来的知识还多是完全可能的，但是就像人类一样，知识最多并不代表就最聪明。你一定见过被称为两脚书柜的书呆子，读了很多书，但解决实际问题的能力并不怎么样，反之，有的人读书并不多，但实际能力却很强。这里笔者当然不是反对读书多，只是想说读书多并不一定就非常聪明，换句话说，我们应该学会灵活运用书本中所学到的知识，而不是死读书。

以现在大模型的基础理论，如果没有革命性的重大突破，那么大模型无论如何发展都很可能是个饱读诗书的书呆子，这倒不是说它解决实际问题的能力不行，它解决许多实际问题的能力可能会非常厉害，甚至超过人类，就像我们现在看到的大模型那些表现亮眼的能力，比如AlphaGo在围棋上能战胜人类，但是整体上与人类的聪明比起来它们始终要差一些。

大模型主要就差在会出现幻觉，会犯很低级的错误。

可能有读者朋友会说，人也会犯很低级的错误呀。但我们人类犯低级错误是因为疏忽，正常情况下是不会犯的，且一旦发现我们都知道那是错误。但是大模型不知道那是错误，很多情况下它们不能区分什么是正确的，什么是错误的，那么它们自然在整体上就不如人类聪明了。

如果在这种情况下发生人类与人工智能之间的战争，人工智能很难取得胜利，因为人类可以根据实际情况创新出新的战法，且通过严密的逻辑推理来保证这种创新多半是正确的，至少极低概率会出现很低级的错误；人工智能虽然也会创新，它们也可能会有非常6B的创新，但同时也可能会有很蠢的创新，而它们无法区分这两者，因此就可能将很蠢的创新应用到实际行动中，结果当然就是失败。

人类当然也会失败，但人类一旦遇到失败，会很快改进并找到正确方法，而以现在人工智能的理论基础是通过大规模数据统计来获得正确方法，因此它们往往要经历成千上万次的失败才可能找到正确方法，就像AlphaGo要下几千万盘棋才能成为高手，然而现实中并不会给它那么多机会去试错。

也许有人说人工智能的速度快、火力猛、防护强，就好像拿着现代枪炮对付拿着刀剑的人，就算你再聪明也没有用，但不要忘了，人类到时肯定也不是拿血肉之躯去与人工智能拚，我们也会应用人工智能来帮助人类战胜对手。

再来谈第二种理解，即所有的大模型加起来比所有人加起来聪明。

其实上面已经说到了这个问题，即全世界所有的大模型不太可能团结在一起对付人类。

即使所有大模型都想对付人类，但如果没有统一的指挥和调度，它们也是很难战胜人类的，也就是说理论上它们加起来比人类聪明，但现实却很可能是1+1<2，而人类却可以1+1>2，因此整体上它们的聪明程度还是比不过人类。

那么有没有可能它们也会有统一的指挥和调度呢？然而这第二种理解是说没有一个大模型达到很高的聪明程度，虽然它们可以做到让一个大模型来进行统一指挥和调度，但由于其聪明程度有限，因此这种指挥和调度也就难以达到很高的水平，如果再加上有幻觉，那就更难以与人类匹敌了。

所以，马斯克所说的“2029年AI将超越人类智慧总和”，实际上还是类似于笔者所提出的准通用人工智能（PreAGI或PAGI），即理论上加起来可以超越人类，但现实最多只能达到人类的80%智能水平，或者说替代人类80%的工作，仍然会有20%的最尖端工作需要人类参与其中才可能做好，人工智能依然只能是人类的助手，只不过它会是个非常能干的助手。

因此，马斯克那句话应该改成：结果肯定是超级棒，不可能非常糟！

- END -