奥特曼再谈DeepSeek：肯定开源模型巨大贡献，坚信人类终将实现AGI-CSDN博客

来源：量子位 | 公众号 QbitAI

克雷西整理自凹非寺

世界上确实需要开源模型，它们可以为人们提供大量价值。
我很高兴，世界上已经有一些优秀的开源模型。

在柏林工业大学的一场圆桌对话当中，奥特曼再一次谈到了DeepSeek，并大赞开源模型对世界的贡献。

对话中，奥特曼还发表了对AGI的最新看法，透露了十足的信心，他认为，虽然会遇到阻碍和挑战，但他相信人类终将实现AGI。

同时他还谈到了GPT-5，表示GPT-5将会比人类更聪明，其中也包括他自己。

这场对话由柏林工业大学教授、计算机科学家Fatma Deniz主持。

除了Deniz和奥特曼之外，参与者还有同为该校教授的Volker Markl，以及德国一家AI公司Merantix Momentum的创始人兼CEO Nicole Büttner。

期间，他们讨论了AI对科学研究的影响、AI的前景与挑战，以及AGI等话题。

（注：下文主要摘录了对话中涉及奥特曼的部分，斜体字为解释性文字，其余均为对话者原文）

“AI是人类制造工具的历史”

首先，针对AI会给人们的科研和学术工作带来的影响，Deniz抛出了第一个问题，奥特曼则借助这两天刚上线的Deep Research功能进行了解释。

奥特曼认为，AI在科研过程当中的意义是帮助人们节省某些工作的时间，从而有更多精力去思考更高层次的问题。

Deniz：像ChatGPT这样的聊天机器人今天被用于激发灵感、起草文本和摘要，它帮助我们节省了一些时间，甚至可以“抄近路”。

你认为这对科学和学术工作意味着什么？如果最有洞察力的想法其实来自于我们慢慢思考而不是“抄近路”呢？

奥特曼：我们周一推出了一个叫Deep Research的项目……这在某种程度上就像ChatGPT时代的一个时刻，人们的反应非常热烈，而科学家是其中最兴奋的一群人。

你可以向Deep Research提出一个查询，它可以为你进行大量研究，完成一些需要数小时、数天甚至数周才能完成的任务。

目前，它不会直接生成许多新的深刻见解，但在整合信息、帮助科学家或研究人员更高效地工作方面，它非常出色。

这正是AI应该发挥作用的地方——它帮助我们在某些领域节省时间，让我们能够在更高层次上工作。

这其实是人类制造工具的历史，我们通过机器来完成以前必须自己做的事情，从而解放自己，使工作进入更高的抽象层次。我认为一切都会变得更好。

在之后的对话中，奥特曼还补充说，他认为人类将在未来几年内看到AI自主完成重大发现。

“GPT-5将比人类更聪明”

昨天，OpenAI与德国一家名为Bifold的大数据公司达成了合作，为其提供了5万美元的API额度，以促进对o3模型的探索。

以此为话题，Deniz向奥特曼提出了新的问题。

Deniz：与这样一个基础研究机构合作，你们的期望是什么？

奥特曼：我对AI有很多期待，我们之前已经稍微提到了一些。但对我个人来说，最让我兴奋的事情是AI在科学发现方面的作用。

我相信，如果我们能加速科学发现，或许可以在一年内完成十年的科学研究，甚至未来某一天，在一年内完成一百年的科学研究。

这对人类生活质量的提升意义重大，比如解决最紧迫的问题，应对气候变化，让生活变得更美好，甚至找到治愈疾病的方法。

这将是AI给予世界的一份巨大礼物，而我认为AI终于可以真正实现这一点了。

说到这里，奥特曼话锋一转，询问现场观众有多少人觉得自己比GPT-4聪明，又有多少人觉得自己会比GPT-5聪明。

问到GPT-5的时候，现场只有两个人举手。

奥特曼：我不认为自己会比GPT-5更聪明。

但我对此并不感到难过，因为这意味着我们能够利用它来做令人难以置信的事情。我们希望能推进更多的科学研究，希望能让研究人员完成他们以前无法做到的事情。

这就是人类历史的发展轨迹。当然，这次感觉有点不同，因为AI赋予我们的能力前所未有。

但如果科学家们能利用超高智商的工具，更加专注于提出正确的问题，更快地解决问题，加速他们的研究进程，那对我们所有人来说，都是一种巨大的胜利。所以，我们很高兴能够推动这一进步。

刚才两位认为自己比GPT-5更聪明的人，我很想过段时间再听听你们的想法。

“我们最终会实现AGI”

下一个话题关于AGI，Deniz提到了隔壁Claude创始人、前OpenAI员工Dario Amodei的一篇文章。

Amodei在这篇文章中谈论了自己对于AGI的看法，他认为AGI本质上就是一个“数据中心里的天才国家”。

Deniz：你同意这个说法吗？这对下一代科学家意味着什么？

奥特曼：在当今阶段，我们已经足够接近AGI，因此它的精确定义变得重要。当你拥有一个世界级专家团队，在各个领域不知疲倦地协作时，我认为这已经超出了大多数人对AGI的认知。

所以，与其讨论我们什么时候会真正达到AGI，还不如关注更实际的问题。

我想说的是，在未来几年内，我们会看到一些成就，让很多人惊讶地说，“我真的没想到计算机会做到这个程度”。

之后，我们会进入一个新的阶段，比如AI在一年内完成十年的科学研究。这个阶段可能还需要更长时间，但那一刻到来时，世界的变化将会更加迅速，并带来巨大的好处。

与一些人会唱衰AI不同，奥特曼对AGI的看法十分乐观。

奥特曼：目前来看，我们正处于一个陡峭的技术发展曲线上。过去一年，有许多人喜欢唱衰 AI，比如“AI 扩展训练已经到头了”“它不会再进步了”。

但事实是，我们已经找到了新的范式，现在有了真正具备推理能力的模型，这些模型非常聪明，而且还可以继续扩展。我预计，在这个范式之后，我们还会找到下一个新范式。

我从这之中学到的一点是：当你看到科技呈现陡峭的指数增长时，千万不要低估它。

当有人开始说“这就要到极限了”“我们快要碰到天花板了”“这一点不会再提升了”时，你们都应该保持怀疑。

目前来看，我们似乎已经找到了真正能够学习的算法，它会持续发展。

当然，我们会遇到一些障碍，需要去克服它们。但我相信，我们最终会实现AGI，甚至超越AGI，而且从现在开始，这个进步过程会变得更加顺畅。

Deniz：在你看来，目前谁最有能力来独立验证AGI是否真正实现了？

奥特曼：唯一重要的事情，就是它能为人类提供多少实际价值。

如果它对你有用，如果它超过了一定的实用门槛，那就足够了。如果一群专家想要争论它到底是不是AGI，我认为这根本不重要。

我相信AGI的进步不会是某个突然发生的“终点”，而是一个指数级的持续增长过程,真正的问题是：它能帮助多少人？它能为世界带来多少价值？

Deniz：你是否认为第一批真正达到AGI的基础模型，会具备自我复制、自我改进、自我修改的能力？比如，它们能否基于新出现的需求，自行优化？

而且，即使你认为它们可能会具备这些能力，OpenAI本身是否会意识到这一点？或者更广泛地说，AI公司是否能真正察觉到这样的变化？你认为像OpenAI这样的公司在报告AGI进展及其社会影响方面应该承担什么责任？

奥特曼：有些人认为，AGI只有在变成一个可以自我复制、自我改进的宇宙探测器时，才算真正实现了。我个人不会等到那个里程碑，我在那之前就会承认AGI的存在。

当然，我们有责任向公众报告这类进展。如果我们发现AI接近这个阶段，我们一定会告诉大家。

Deniz：你们会如何通知公众？

奥特曼：你是问我们该如何沟通，如何向世界表达这个进展？

Deniz：是的，还有更重要的是，你们如何察觉AI发展出这种能力的迹象？

奥特曼：哦，你是问我们如何在AI系统中识别这些能力？

我认为，这种进步会是一个渐进的过程。人们谈论自我改进时，往往把它看作一个明确的二元状态，要么发生了，要么没有发生。

但实际上，情况可能更复杂——一开始，AI只是帮助科学家稍微提高一点工作效率，然后变得更快，接着它可以做的事情越来越多。

所以，我不认为AGI的进化会是一个清晰的二元分界线，而是一个变化的曲线斜率。我们可能会察觉到AI进步速度的变化，比如它的能力曲线开始陡然上升。

“世界需要开源模型”

DeepSeek-R1火出圈之后，难免成为了AI圈中一个必谈话题，此次也不例外。

Deniz：大学和科研领域，开源和开放数据极其重要，这不仅与我们之前讨论的AI解释性有关，也涉及可复现性。

那么，在DeepSeek-R1发布之后，你最近在Reddit上也表示，OpenAI在开源问题上“站到了历史的对立面”。

所以，我想问，这次DeepSeek-R1的发布，或者更广义上说——开源——对OpenAI在竞争力以及生成式AI领域的整体发展方面意味着什么？

奥特曼：我认为，开源有它存在的价值，世界上确实需要开源模型，它们可以为人们提供大量价值。

我们可以讨论AGI是否应该开源，但我认为没人会否认，在当前这个发展阶段，开源模型确实创造了价值。

所以，我认为开源是一件好事。我们有很多优先事项要考虑，因此说起来容易，做起来难。但我很高兴，世界上已经有一些优秀的开源模型。

Three More Questions

访谈的最后还有观众提问，组织者事先收集了一些问题，并由Deniz代为提问。

Q1：你认为让AI变得更强大的最大技术困难是什么？

奥特曼：更好的算法、更强大的计算机、更复杂的训练数据集，以及更优秀的产品——这些都能帮助我们更好地从用户反馈中学习，了解哪些地方还需要改进。

但我必须强调，在接下来的两年里，我们的进步将会非常惊人。我们非常清楚如何大幅提升这些AI模型的能力，而且目前并没有明显的技术瓶颈阻挡我们前进。

Q2：如果你是一名今天的学生，你会如何为未来做准备？

奥特曼：显而易见的战术策略，就是学会如何真正高效地使用AI工具。

当我上大学时，最值得学习的技能是编程，而那确实是一项了不起的技能。但到了今年年底，编程的方式将会完全不同。

你应该站在这个趋势的正确一侧，因此，学会如何使用AI工具，以及如何利用AI让自己能做到以前无法做到的事情，是最重要的实用技术。

但除此之外，更隐性的关键技能是适应能力（adaptability）和韧性（resilience），这两点在未来将变得极为重要。它们都是可以学习和练习的技能，而且练习越多，提升越快。

另一项重要技能是——理解别人真正想要什么。这其实也是可以学习的能力。

当AI几乎可以做任何事情、创造任何东西时，决定做什么和理解人们真正看重什么，将成为至关重要的事情。

人类的本能就是关心他人，关注他人创造的价值，而这种趋势不会改变。

有人会说，重要的是“提出正确的问题”，但我认为真正重要的事情是：搞清楚人们需要什么，什么能创造真正的价值，以及如何正确引导AI。

我曾是YCombinator的创业投资人，在那段经历中，我最大的收获之一就是——人们学习这种技能的能力远远超过我的预期。这是一项值得教授和培养的能力，也是我们应该更重视的事情。

Q3：你对2025年的AI发展最感到兴奋的是什么？

奥特曼：我坚持我前面的看法，是（AI推动了）科学的进步。

原视频地址：
https://www.youtube.com/watch?v=McuO7Osgzqo

阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”

https://wx.zsxq.com/group/454854145828

未来知识库是“欧米伽未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828 进入。