我们的使命是确保通用人工智能(AGI,Artificial General Intelligence)能够造福全人类。
具备 AGI 潜力的系统已开始显现,因此我们认为理解我们所处的时刻非常重要。AGI 是一个定义模糊的术语,但一般来说,我们指的是能够在多个领域以人类水平解决日益复杂问题的系统。
人类天生具有构建工具的本能,渴望理解和创造,这推动着世界不断变得更好。每一代人都在前人的发现基础上构建更强大的工具——电力、晶体管、计算机、互联网,很快还有 AGI。
随着时间的推移,人类创新的稳步推进带来了难以想象的繁荣和生活各个方面的改善。
从某种意义上说,AGI 只是我们共同构建的人类进步高塔中的又一个工具。而从另一个角度看,它也是某种全新事物的开端,我们难免会说“这一次不同以往”;我们面前的经济增长前景令人惊叹,我们可以想象一个治愈所有疾病的世界,有更多时间与家人共度,充分实现我们的创造潜力。
十年后,也许地球上的每个人都能完成比今天最具影响力的人更多的成就。
我们持续目睹着人工智能开发的快速进展。以下是关于人工智能经济学的三点观察:
1. AI 模型的智能水平大致等于其训练和运行所需资源的对数。这些资源主要包括训练计算量、数据和推理计算量。看起来你可以花费任意金额,获得持续且可预测的收益;预测这一点的扩展法则在多个数量级上都准确无误。
2. 使用特定水平 AI 的成本每 12 个月下降约 10 倍,价格降低导致使用量大幅增加。从 2023 年初的 GPT-4 到 2024 年中的 GPT-4o,代币成本下降了大约 150 倍。摩尔定律每 18 个月翻一番改变了世界;而这比摩尔定律的速度更为惊人。
3. 线性增长的智能所带来的社会经济价值呈现超指数增长。这意味着我们看不到短期内指数级投资会停止的理由。
如果这三点观察继续成立,其对社会的影响将是深远的。
我们现在开始推出 AI 代理,最终这些代理会像虚拟同事一样存在。
让我们想象一个软件工程代理的情况,这是我们认为特别重要的一类代理。设想这个代理最终能够完成一位拥有数年经验的顶尖公司软件工程师大部分可以完成的任务,任务时间跨度在几天内。它不会提出最具突破性的创意,需要大量的人类监督和指导,它在某些方面会非常出色,但在其他方面可能表现得出人意料地糟糕。
尽管如此,把它想象成一个真实但相对初级的虚拟同事。现在想象有 1,000 个这样的代理,或者 1,000,000 个。再想象每个知识工作领域都有这样的代理。
在某些方面,AI 可能会像晶体管那样在经济上产生类似的影响——一种能够大规模扩展并渗透到经济几乎每个角落的重要科学发现。我们不会特别关注晶体管或晶体管公司,但晶体管带来的收益却广泛分布。我们期望我们的计算机、电视、汽车、玩具等设备能实现奇迹。
世界不会一夜之间改变;它从未如此。在短期内,生活大体会保持不变,2025 年的人们大多会像 2024 年一样度过他们的时间。我们依然会相爱,组建家庭,在网上争吵,去大自然徒步旅行,等等。
但未来将以一种无法忽视的方式向我们袭来,社会和经济的长期变化将是巨大的。我们将找到新的事情去做,找到彼此之间新的互助方式和新的竞争方式,但这些可能与今天的工作大不相同。
主动性、意志力和决心 可能会变得极其珍贵。正确地决定做什么以及如何在不断变化的世界中导航将具有巨大的价值;培养韧性和适应能力将是有益的技能。AGI 将成为人类意志力史上最大的杠杆,使个人能够比以往任何时候都产生更大的影响,而不是更少。
我们预计 AGI 的影响将是不均衡的。尽管某些行业的变化可能微乎其微,科学进步可能会比现在快得多;这种 AGI 的影响可能会超越一切。
许多商品的价格最终会大幅下降(目前,智能成本和能源成本限制了许多事情),而奢侈品和一些本质上有限的资源如土地的价格可能会更加显著地上涨。
从技术角度看,我们面前的道路相对清晰。但关于我们应该如何将 AGI 融入社会的公共政策和集体意见至关重要;我们频繁且提前推出产品的原因之一是为社会和技术共同进化留出时间。
AI 将渗透到经济和社会的各个领域;我们会期望一切都变得智能化。我们中的许多人预期需要比以往更多地给予人们对技术的控制,包括更多地开源,并接受在安全性和个人赋权之间找到平衡需要权衡取舍。
虽然我们从不希望鲁莽行事,关于 AGI 安全的某些重大决策和限制可能会不受欢迎,但总体上,随着我们越来越接近实现 AGI,我们认为朝着个人赋权的方向发展至关重要;我们看到的另一条可能的路径是 AI 被威权政府用来通过大规模监控和剥夺自主权来控制其人口。
确保 AGI 的好处广泛分配至关重要。技术进步的历史影响表明,我们关心的大多数指标(健康结果、经济繁荣等)在平均水平和长期来看都会改善,但增加平等并不是技术所能决定的,解决这个问题可能需要新的思路。
特别是,资本与劳动之间的权力平衡很容易被打破,这可能需要早期干预。我们对一些听起来奇怪的想法持开放态度,比如给每个人一个“计算预算”,让地球上的每个人都能广泛使用 AI,但我们也可以看到许多方法,仅仅是无情地降低智能成本,可能就能达到预期效果。
到 2035 年,任何人都应该能够调用相当于 2025 年所有人的智慧资源;每个人都应该能够无限制地接触到天才,并按照他们的想法去引导。现在有大量才华横溢的人缺乏充分表达自我的资源,如果我们改变这种状况,世界的创造性产出将为我们所有人带来巨大的好处。
特别感谢 Josh Achiam、Boaz Barak 和 Aleksander Madry 对本稿的审阅。
在此使用 AGI 术语是为了清晰表达,我们无意改变或解读定义我们与微软关系的条款和流程。我们完全预期将长期与微软合作。这个脚注可能显得有些多余,但我们知道某些记者会为了吸引点击而写些无稽之谈,所以我们提前说明,以防止这种情况发生……