山姆・奥特曼最新揭秘 AGI：未来 10 年，智能革命将如何颠覆世界？

Sam Altman 的最新博文：“三点洞察”，讲述了他对未来 AGI 也就是通用人工智能的一些看法。

原文如下：

我们的使命是确保人工通用智能（AGI）惠及全人类。

指向 AGI 的系统正在逐渐显现，因此我们认为理解我们所处的时刻非常重要。AGI 是一个定义较为模糊的术语，但一般来说，我们指的是一个能够在许多领域中以人类水平解决日益复杂问题的系统。

人类是天生的工具制造者，具有理解和创造的内在驱动力，这使得世界对我们所有人来说都变得更好。每一代人都基于前人的发现，创造出更强大的工具 —— 电力、晶体管、计算机、互联网，以及即将到来的 AGI。

随着时间的推移，在曲折中前进，人类创新的稳步推进为人们生活的几乎每个方面带来了以前难以想象的繁荣和改善。

从某种意义上说，AGI 只是我们共同建造的人类进步这座不断增高的脚手架中的又一个工具。从另一种意义上说，它是某种难以不让人说 “这次不同了” 的事物的开端；我们面前的经济增长看起来令人震惊，我们现在可以想象一个治愈所有疾病、有更多时间与家人共处、并能够充分实现我们创造潜力的世界。

十年后，也许地球上的每个人都能比今天最有影响力的人取得更多的成就。

我们继续看到人工智能开发的快速进展。以下是关于人工智能经济学的三个观察：

人工智能模型的智能大致等于用于训练和运行它的资源的对数。这些资源主要包括训练计算、数据和推理计算。似乎你可以花费任意数量的资金，并获得持续且可预测的收益；预测这一点的扩展定律在许多数量级上都是准确的。

使用某一水平人工智能的成本大约每 12 个月下降 10 倍，而更低的价格会导致更多的使用。你可以从 2023 年初的 GPT-4 到 2024 年中的 GPT-4o 的代币成本中看到这一点，在这段时间内，每个代币的价格下降了约 150 倍。摩尔定律以每 18 个月 2 倍的速度改变了世界；而这比摩尔定律更加强大。

线性增长的智能的社会经济价值具有超指数性质。其结果是，我们认为在不久的将来，指数级增长的投资没有理由停止。
如果这三个观察继续成立，它们对社会的影响将是巨大的。

我们现在开始推出人工智能代理，这些代理最终会感觉像是虚拟同事。
让我们想象一个软件工程代理的例子，我们预计这种代理将特别重要。想象一下，这个代理最终能够完成一家顶级公司中拥有几年经验的软件工程师所能完成的大部分工作，处理长达几天的任务。它不会有最宏大的新想法，它需要大量的人类监督和指导，它在某些方面会非常出色，但在其他方面却会出人意料地糟糕。
尽管如此，想象它是一个真实但相对初级的虚拟同事。现在想象 1000 个这样的代理。或者 100 万个。现在想象这样的代理出现在每一个知识工作领域。
在某些方面，人工智能可能会像晶体管一样在经济上产生巨大影响 —— 一个能够很好地扩展并渗透到经济几乎每个角落的重大科学发现。我们不会过多考虑晶体管或晶体管公司，而收益却非常广泛地分布。但我们确实期望我们的计算机、电视、汽车、玩具等能够创造奇迹。
世界不会一下子改变；它从来不会。短期内，生活将基本保持不变，2025 年的人们将大部分时间花在与 2024 年相同的事情上。我们仍然会坠入爱河、组建家庭、在网上争吵、在大自然中徒步旅行等等。
但未来将以一种无法忽视的方式向我们走来，我们社会和经济的长期变化将是巨大的。我们将找到新的做事方式、新的互相帮助的方式以及新的竞争方式，但它们可能看起来与今天的工作大不相同。
主动性、意志力和决心可能会变得极其有价值。正确决定该做什么并找到如何在不断变化的世界中导航将具有巨大的价值；韧性和适应力将是值得培养的有用技能。AGI 将成为人类意志力的最大杠杆，并使个人能够产生比以往更大的影响，而不是更小。
我们预计 AGI 的影响将是不均衡的。尽管一些行业变化很小，但科学进步可能会比今天快得多；AGI 的这一影响可能会超越其他一切。
许多商品的价格最终将大幅下降（目前，智能成本和能源成本限制了许多事情），而奢侈品和一些固有资源（如土地）的价格可能会更加剧烈地上涨。
从技术上讲，我们面前的道路看起来相当清晰。但公共政策和集体意见关于我们应如何将 AGI 融入社会非常重要；我们早期并频繁推出产品的原因之一是为了给社会和技术时间共同进化。
人工智能将渗透到经济和社会的所有领域；我们将期望一切都变得智能。我们中的许多人预计需要给予人们比历史上更多的技术控制权，包括更多地开源，并接受在安全性和个人赋权之间存在一种需要权衡的平衡。
虽然我们从不希望鲁莽行事，并且可能会做出一些与 AGI 安全相关的重要决定和限制，这些决定和限制可能不受欢迎，但从方向上讲，随着我们越来越接近实现 AGI，我们认为趋向于更多的个人赋权是重要的；我们看到的另一条可能路径是，人工智能被威权政府用来通过大规模监视和丧失自主权来控制其人口。
确保 AGI 的收益广泛分布至关重要。技术进步的历史影响表明，我们关心的大多数指标（健康结果、经济繁荣等）在长期内平均会变得更好，但平等性的增加似乎并不由技术决定，而要实现这一点可能需要新的思路。
特别是，资本和劳动力之间的权力平衡很容易被打破，这可能需要进行早期干预。我们对一些听起来奇怪的想法持开放态度，比如给予每个人一定的 “计算预算”，使地球上的每个人都能使用大量的人工智能，但我们也可以看到许多情况下，仅仅不懈地将智能成本降到尽可能低也能达到预期效果。
到 2035 年，任何人都应该能够调动相当于 2025 年所有人的智力；每个人都应该能够获得无限的天才，并按照他们的想象进行指导。目前有许多人才没有足够的资源来充分表达自己，如果我们改变这一点，世界将因此产生的创造性输出将为我们所有人带来巨大的利益。

以上内容是 DeepSeek 翻译。