AGI 是不可能的吗？还是可能的思考

随着人工智能越来越受欢迎，有关人工智能的谎言和错误信息也越来越多。市值数万亿美元的公司的首席执行官经常散布虚假信息，而这些虚假信息被记者懒惰地当作事实兜售。这些谎言传遍了各级大众媒体，造成了人们对人工智能的完全扭曲的看法。真是一团糟。

在本文中，我将根据自己在多家 AI 相关公司担任首席开发人员、联合创始人和董事的经验提供自己的看法。我们将讨论 AI 中最常被提及的话题之一：AGI，即“通用人工智能”。

人工智能很快就会比你聪明吗？剧透：可能不会。

AI 是什么，不是什么

人工智能是一种强大而复杂的技术，人们通常将其视为流行词，而没有完全理解它。因此，“人工智能”一词几乎可以用于任何技术。我见过人工智能被用来指代区块链、Web 3.0 和一系列其他完全不相关的技术趋势。在将人工智能与一般技术混为一谈时，许多非技术人员自然而然地开始将人工智能视为技术本身。我认为这种趋势在很大程度上解释了为什么这么多人愿意相信人工智能的影响力比实际要大得多。

仅仅因为有人说某项技术使用了人工智能，并不意味着它真的使用了人工智能。此外，即使某项技术确实使用了人工智能，随意加入人工智能并不意味着它就一定会变得更好。如果胶带突然成为一种流行技术，初创公司就会开始在键盘上贴上胶带，这样他们就可以说“用胶带制造”，大公司也会开始在现有产品上贴上小块胶带，这样他们就可以说“现在是用胶带制造的”。这并不会让胶带变得没用，但确实让人很难辨别胶带的实际效用。

人工智能是一种工具。它不是神，也不是神。实际上，在很多方面，人工智能就像是软件版的胶带。

如果你真的想，你可以用胶带做任何东西，但因为胶带太松，如果你试图用它做大东西，它很容易散架。由于胶带在很多方面都很好用，所以它被用在航空、赛车、家装店和管道中。没错，胶带最初是为粘合暖通空调管道而开发的。

就像胶带一样，有些事情人工智能非常适合做，有些事情人工智能出奇地擅长，但有些事情人工智能却做不到。

人工智能擅长什么

人工智能之所以如此受欢迎，是因为它让计算机能够做以前只有人类才能做的事情。人工智能可以看一张图片，并理解图片中的内容。人工智能可以回答有关文本的问题。人工智能可以生成精美的图像、视频，甚至还有一些很酷的工具可以生成相当高质量的音乐。人工智能可以几乎瞬间完成所有这些事情，并产生相当高质量的结果。

这非常令人印象深刻且实用。我的意思是，我使用 MidJourney 为我的文章生成艺术图。我在工作中使用 ChatGPT 和 Claude 来帮助我分析人类文本。我开始创作音乐，并使用 Suno 来帮助我构思创意。人工智能擅长的事情列表正在以惊人的速度增长，许多人正在将人工智能纳入他们的技巧包中，以更快地完成更高质量的工作。

好吧，如果人工智能能够做所有这些复杂的人类事情，而且能做越来越多的事情，那么认为它会越来越好不是很合理吗？如果它已经在很多事情上比人类更好，那么什么时候它才能在所有事情上都比人类更好呢？

人工智能很愚蠢

在上一节中，我列出了 AI 擅长的各种复杂主题，现在我却说它很笨。这是怎么回事？

为了理解 AI 为何愚蠢，你必须了解一点 AI 的工作原理。我认为，与其描述 AI 本身，不如基于每个人都能理解的东西来描述 AI 的工作原理。光。

你可能对此很熟悉。当光线照射到某些弯曲的透明表面上时，它会形成美丽的图案，称为焦散。

图片来源

有一所名为 EPFL 的理工学院已经研究出如何制造玻璃，并且可以利用这种现象来创作艺术品。

使用焦散线用精心制作的玻璃制作艺术品。来源。

这是一些很酷的东西，我不知道我是否能像那块玻璃一样画出大脑。但是这块玻璃聪明吗？不，玻璃是愚蠢的，制造玻璃的人是聪明的。仅仅因为玻璃产生了美丽的图像并不意味着玻璃本身是聪明的。

人工智能就像是多片精美的玻璃，过滤一些输入以实现一些输出。你改变输入人工智能的内容，输出就会改变。只不过，它不是光，而是文字和图像之类的东西。

从概念上讲，你可以将人工智能视为许多过滤器，它们接收一些输入并创建一些输出。如果你改变输入，就会得到不同的输出。就像上图所示。

您使用的所有尖端人工智能都是将您的输入转化为某种输出的过滤器。

我曾向一些人描述过这个想法，他们经常会这样回答：“难道不是所有人都会这样吗？他们会对刺激做出反应，对周围的世界做出反应。也许那块玻璃和人一样聪明。”

不要将玻璃拟人化

人类是极其复杂的生物，经过数十亿年的进化，已经适应了各种各样的环境。利用我们的大脑、感官和灵巧的身体，我们登上了生死攸关的竞争激烈的食物链的顶端。我们利用我们在食物链中较高的地位不断赢得赏金，并在数千年的时间里利用多余的卡路里进化出了世界上最复杂的计算系统：人类大脑。

我们生来就拥有复杂的大脑，大脑会随着我们的一生而不断进化，根据我们与世界、他人和我们自己的互动方式而不断变化。在这种发展过程中，我们寻求新的挑战来进一步增强我们的思维，并寻求更多的想法来测试可能性的极限。我们中的一些人会找到配偶并创造新的人类，他们从父母双方那里继承了各种信息，以便将人类延续到未来的时代。

为了训练人工智能，您需要导入 pytorch，加载一些标记为有猫或狗的图像示例，然后调整模型内的参数，直到它在大多数情况下都能得到正确的答案。

如果你对人工智能有所了解，并且对人类有所了解，那么任何声称现代人工智能系统与人类一样令人印象深刻的说法都是可笑的。人工智能与人类进行比较的唯一原因是，它被设计用来做人类可以做的事情，并受到人类大脑工作方式的启发。这并不意味着人工智能已经接近人类所能达到的惊人复杂性。

人类大脑的复杂程度令人震惊，人类仍在努力理解。非常聪明的人一生都在研究大脑的特定部分（左图）。另一方面，大多数人工智能系统可以在一篇文章中或多或少地解释清楚（右图）。

这时你可能会回应：“好吧，但人工智能不只是能判断图像中是否有猫或狗，它还可以创作艺术、写诗，做各种疯狂的事情。这当然需要智慧。”

人工智能什么都做不了

人工智能复制。

ChatGPT 在回答你的问题时，本质上是说“根据我所看到人类说的所有事情，对我给出的提示的合理回应是什么”。

你可以将人工智能视为基于人类数据制作的过滤器。人工智能研究人员的工作是熟练地制作人工智能模型中的各种过滤器，以最好地模仿人类示例。

从某些方面来说，你可以将真实的人类示例制造成人工智能模型，然后人工智能模型会使用这个示例的一部分和那个示例的一部分来生成输出。

更准确地说，AI 模型是使用示例来决定合适的输出，而不是产生新的输出。是的，模型中的一些示例受版权保护。是的，有时模型会输出受版权保护的作品。这是 AI 目前面临的一个主要问题，具有许多有趣的法律、技术和道德含义。我计划在未来的文章中介绍这一点。

当人类向人工智能提问时，他们理所当然地会对答案感到印象深刻。可笑的是，许多人就此止步，认为人工智能比他们更聪明。他们认为人工智能“想到”了答案，而不是更准确的概念化，即人工智能根据人类示例的复杂组合回忆起答案。

如果深入挖掘一下，在了解人工智能更多的是回忆而不是推理的情况下多问几个问题，你会发现人工智能出奇地愚蠢。

要求强大的图像生成模型生成一张没有大象的图像。MidJourney 是基于互联网数据进行训练的。在互联网上，汽车图像不会被描述为“包含大象以外的东西的图像”。只有在图像由大象组成时才会提到大象。因此，尽管该模型生成了视觉上吸引人的响应，但它无法满足这个简单的要求。MidJourney 擅长绘画，但它不理解“没有大象的图像”。

这些系统需要人类精心定制，才能产生高质量的输出。制作人工智能模型的过程需要大量计算机、大量高质量参考数据来学习，以及大量时间。但它们仍然会犯一些愚蠢的错误。

嘿，人类也会犯错，但人工智能总是犯错。人工智能需要人类找出模型出错的原因，然后人类需要调整模型以获得更好的输出。有时它有效，有时则无效。

人工智能研究人员面临着一项艰巨的任务，那就是将一个能回忆人类示例的愚蠢系统变成一种一致且高效的技术。你会惊讶于幕后发生了哪些类型的对话，这绝对不是魔术。

大型人工智能公司的首席执行官们非常清楚这一点，但他们希望继续炒作以保持资金流动。许多真正建立这些模型的研究人员并没有同样的目标，他们并不热衷于用他们的技术来支持骗子。

Meta 前首席数据科学家 Yann LeCun 回应伊隆·马斯克。来源。

结论

人工智能远不如人类复杂。人工智能之所以能做到人类能做的事情，唯一的原因是它们被设计成模仿人类。即使投入大量资金和人力，也很难不制造出既愚蠢又完全无用的人工智能模型。

这并不意味着人工智能不强大，就像胶带一样，它有自己的一系列应用。但是，胶带有用并不意味着它很智能。

未来人工智能会具备“通用智能”吗？也许吧，或者我们先开发出具有通用智能的胶带。