2024年3月21日_openai ceo sam altman的采访解读

前几天

OpenAI的CEO Sam Altman接受了Lex Fridman的采访

历时2个多小时，不得不说

Fridman的采访是真长

每次都看得好累

在这次采访中

Altman聊了很多大家可能感兴趣的话题

包括OpenAI的董事会之争

Ilya Sutskever的去留

Sora和Q*的传说

以及GPT-5和AGI等等

---

由于对话内容过长

所以我提取了一些最精彩的核心内容

这里跟大家分享一下

---

OpenAI董事会之争

第一个话题是跟OpenAI董事会之争有关

Altman承认

从11月16日星期四开始的罢免风波

是他这一生中最痛苦的职业经历

混乱、羞耻、心烦

还有很多其他的负面情绪

整个人感觉非常糟

---

他也曾经设想过

通往AGI的道路肯定会充满激烈的权力角逐

这是一条必经之路

这件事过去的一个多月之后

他仿佛还处于一种恍惚状态

每天都感觉自己像漂流瓶一样

茫然四顾

他的精神完全崩溃了

情绪也陷入了极度低落

但是他还得坚持管理OpenAI

难度真的很大，只想找个洞穴钻进去

好好休养一阵子

---

不过，现在回过头来去看

这件事情还是有它的价值的

这可能不会是OpenAI最后一次面对如此大的压力

当时公司差点就垮了

所以在考虑AGI以外

如何打造一个有韧性的组织、如何构建一个能够承受世界压力的结构体系

也是非常关键的

---

另外一个需要反思的是董事会

如果不特别制定规则的话

非营利组织的董事会

实际上掌握着很大的权力

他们并不真正向任何人负责

除了他们自己

虽然这样有它的好处

但是大家更希望的是OpenAI的董事会能够对全世界负责

---

新的董事会现在已经组建起来

虽然比较仓促

但是Brett和Larry是得到了现有团队和旧董事会的双重认可

他们有着更多的董事会工作经验

能够涵盖不同的专业领域

同时希望以整批的方式招募董事会成员

而不是一次聘用一个人

董事会成员并不是每个人都要有很高的技术水平

但是有些人是必须的

---

虽然周六早上有两位董事会成员给Altman打电话

希望他回到OpenAI

但是周日晚上

董事会任命了一位新的临时CEO

那一刻让Altman感觉真的很难受

不过他最终高度评价了Mira Murati在事件中的表现

认为她是一个合格的领导者

---

他也希望公众对OpenAI的关注

不应该仅仅聚焦在那个戏剧化的周末

而是OpenAI整个发展的七年

Ilya

结束了这个话题

Fridman开始询问Ilya的近况

现在对Ilya的猜测都已经发展成网上的一个梗了

大家都以为被OpenAI关在哪了

Altman对此也很无奈

他对Ilya还是有着极大的敬意

希望能够持续合作

---

对于网上流传的Ilya看到AGI的段子

Altman很肯定的说

Ilya从来没有见过AGI

他们任何人都还没有

OpenAI也还没造出AGI

但是Ilya一直在思考AGI的安全问题

确保OpenAI在这个过程中能行得正、走得稳

他始终在以一种非常积极的方式进行灵魂的探索

并且总是持有一种长远的思考方式

他不太关心一年内会发生什么

而是在想象10年后的情况

---

最近他俩还一起去了个晚宴

Ilya和一只小狗玩得也很开心

心情非常放松、让人感到亲切

不过随即两人又聊起了董事会的事

Altman说自己本来是个极度信任他人的人

他一向坚持的人生哲学是

不必太过担忧

不必在意那些偏执的疑虑和极端的可能性

但是被罢免的这件事，还是让他之后

在信任别人方面变得更加犹豫

不过他对于团队来说

仍然心中充满了巨大的感激、信任和尊重

他认为让自己被这样的人包围

是极其重要的

马斯克起诉openai

接下来

Fridman和Altman又聊起了最近马斯克起诉OpenAI的事

Altman回顾了一下七八年前的情景

当时只是把OpenAI看做一个研究实验室

对技术的未来发展毫无头绪

甚至还没想到要开发一个API

或者卖聊天机器人的访问权限

也没有想过要产品化

后来他们意识到需要做出一些不同的事情

并且需要巨额的资本

所以他和马斯克就在想，行吧

当前的结构显然不太合适

那么应该怎样去补救

只不过补了一次又一次

最终双方都不太满意

然后马斯克决定离开

---

马斯克觉得OpenAI快要失败了

想要完全的控制权来挽救局面

但是以Altman为主的一方

想要继续沿着现在OpenAI所走的方向前进

马斯克还想要特斯拉能够开展一个AGI项目

甚至在不同时间点有过多种想法

包括把OpenAI变成一个他能控制的盈利性公司

或者是让它与特斯拉合并

Altman等人并不同意这样做

于是马斯克就决定离开了

---

对于起诉书中谈到的OpenAI中的Open代表什么

Altman认为如果可以重来

他可能会选一个不同的名字

OpenAI最重要的工作

是免费地将强大技术交到人们手中

作为一项公共福利

OpenAI没有在免费版本中投放广告

也没有通过其他途径来盈利

OpenAI的使命是免费为人们提供越来越强大的工具

并且让他们去使用

至于是否开源

他认为某些东西应该开源

而其他的则没必要

这种事往往会变成一种信仰之争

很难保持中立

只能去找到一个平衡点

---

实际上在这里

Altman已经明确的表示了

OpenAI的Open不是指的开源

而是免费使用的意思

可能应该叫FreeAI更合适

---

在知道周末马斯克开源了Grok之后

Altman表示以后可能也会开源一些

可以在本地执行的小模型

Sora

第四个话题是有关于Sora

Altman认为大模型对世界模型的理解

实际上比我们多数人给予的认可要深

虽然人们很容易一眼看出它们的不足

但是实际上并非全是假象

有些部分是有效的，有些部分则不然

从DALL·E 1到2再到3，再到Sora

每一版都会有人嘲讽

说它做不到这个

做不到那个，但是最终都被打脸

---

不过在Sora发布之前

还必须确保它的效率达到人们期望的规模

这样才能确保系统能够正常工作

还有大量的工作需要完成

比如像深度伪造、错误信息这样的问题

对于Sora训练使用数据的版权问题

Altman肯定了

创造有价值数据的人们

应该得到某种形式的经济补偿

因为他们的数据被利用了

不过目前还不清楚具体的解决方案是什么

关键是得让创作者们拿到钱

---

对于艺术家和创作者们的担心

Altman举了个例子

那就是艺术家们在摄影问世的时候也是忧心忡忡的

后来摄影却演变成了一种全新的艺术形式

有人通过摄影赚到了大钱

他相信类似的事情还会不断上演

人们会不断地用新工具探索新的创作方式

Altman也重申AI的目的是处理更多的任务

而不是取代工作岗位

从而让人类能够在更高层次上进行抽象思考

---

以YouTube为例

以后可能很多视频在制作过程中

会运用到AI工具

但是视频的核心仍然是由人来思考、构思、负责部分执行

并且指导整个项目的运作

GPT-4

随后二人聊了聊有关GPT-4和记忆相关的内容

这块我觉得价值不大

就先跳过了

大家有兴趣可以去看一下原视频

Q star

接下来是大家之前比较关心的传闻Q*，

Altman表示没传的那么邪乎

增强AI的推理能力是一个重要的发展方向

但是到目前为止还没能彻底攻克这个难题

---

大语言模型的性能

基本上是在沿着一个指数曲线逐步攀升

但是从旁观者

确实能感觉到有些跳跃性的进展

OpenAI采用的是迭代部署的方式

目前已经公开讨论了GPT-1、2、3和4

而不是直接秘密的开发GPT-5

就是因为AI不应该变成一种意外

OpenAI最明智的举措之一

就是让全世界都关注这一进程

正视AGI的重要性

考虑在我们陷入紧迫境地、不得不匆忙作出决策之前

需要建立什么样的系统、结构和治理模式

OpenAI的目标绝不是给世界带来令人震惊的更新

而是恰恰相反

人们会对里程碑情有独钟

好像能够宣布某件事情取得了胜利

然后迈向下一个目标

但是这也可能会给大家带来一种错觉

---

所以Altman可能想换个形式来发布GPT-5

GPT-5

Fridman接着开始询问GPT-5的事

甚至说道如果今年发布GPT-5的话

让Altman可以眨两下眼睛

Altman没接招，开始故弄玄虚

说今年会推出一个非常棒的新模型

但是还不确定会叫什么名字

而且在发布GPT-5之前

还有一系列重要的产品要发布

---

果然不愧是营销大师

吊足大家的胃口

对于GPT-5

Altman用Ilya的一句话来评价

大概意思是

我们把200个中等规模的因素相互结合

创造出了一件巨大的作品

不过这里我要再补充一下

在3月14日旧金山举行的OpenAI Match Day上

Altman还是透露了一些关于GPT-5的细节

总结下来就是一个字，强，

两个字，碾压，

四个字，超乎想象

GPT-5将在高级推理功能上实现重大进步

性能改进将超出当前的预期

是类似GPT-3到GPT-4一样的质的跨越

顺便给了竞争对手一些打击

他警告说

许多创业公司认为GPT-5只是略有进步

将为他们提供更多的商业机会

但是这是一个错误的假设

如果按照这种思路

这些公司可能会被新一代的模型完全碾压

甚至摧毁

---

目前来看

今年应该肯定是会发布GPT-5的

只不过到时候是不是还叫GPT-5就不知道了

没准会换个名字

回到采访

7万亿美金募资

Altman辟谣了7万亿美金的募资消息

他强调只是认为世界将需要巨量的计算能力

包括能源、数据中心、供应链以及芯片制造

有很多问题要去解决

人类对计算能力规模的渴求

可能会是难以想象的

---

Altman顺便又安利了一下自己投资的核聚变公司Helion

认为应该建造新的核反应堆

人类对核裂变已经深感恐惧

现在AGI也开始逐渐形成军备竞赛

需要把安全问题放到首位

---

他认为可以将AGI开始的时间分为四个象限

慢起步的短时间线和长时间线

以及快起步的短时间线和长时间线

他觉得短时间线搭配慢起步是最安全的组合

也是最希望OpenAI能处于的状态

Gemini

随后两人谈到Google和Gemini

Fridman问Altman

谷歌过去20年已经成为了一个领头羊的角色

OpenAI现在会不会有意去取代

---

Altman回答

OpenAI并无意去复刻一个更卓越的谷歌搜索

而是希望找到一种全新的、更好的方法

来协助人们寻找、利用并整合信息

事实上，对于某些场景而言

ChatGPT已经做到了这一点

希望能应用到更多的场景中去

人们需要的是如何找到需要的答案或信息

世界也并不需要一个谷歌的翻版

Altman还坦言自己对广告的商业模式不太认同

互联网早期发展的确需要依赖广告

但是那是暂时的

以后会有适合大语言模型的广告模式出现

也可以不带偏见地参与交易

广告领域会存在一场飞跃

不会干扰人们消费内容

不会干涉人们的消费行为

也不会为了迎合广告商而歪曲真相

---

而对于最近Gemini 1.5版本爆出的黑人图像问题

Fridman也问道

如果企业内部有人类干预模型的安全性或者造成伤害

从而可能带来大量符合公司意识形态倾向的偏见

应该怎么办

Altman用OpenAI团队中某个成员的点子来回答

那就是可以把模型应有的行为标准写出来并公开发布

接受大家的反馈，明确地表示

这个模型应该是这样的表现

并且要阐释边缘情况

这样

当模型的行为不符合你的期望时

至少可以明确地知道这是公司需要解决的一个问题

还是它按照预期在运作

从而避免目前大模型偶尔会处于模棱两可的状态

---

现在旧金山已经有点儿意识形态上的泡沫

科技界整体也是

许多公司都会受到意识形态的渗透

OpenAI也不例外

不过OpenAI因为对AGI的坚定信仰

相对排斥了一些其他的意识形态

暂时没有太大的问题出现

GPT-5和AGI

随后两人又聊了聊对GPT-5和AGI的畅想

到GPT-5的时候

可能大家都不需要写代码了来编程了

也将会出现类人机器人

或者具有人类智能的机器人大脑

OpenAI也一定会重返AI机器人的行业

从最近我们做的关于FigureAI的节目中也可以印证这一点

AGI并不是一个终点

它更像是一个开始

但是它其实更多是一个里程碑

Altman预计十年内AGI应该就会到来

---

他相信

只要一个系统能够显著加快全球科学发现的速度

那就是一件极其了不起的事情

---

他深信

大多数真正的经济增长都源自科学和技术的进步

不愧是有效加速主义的拥趸

AGI有着巨大的力量

这种力量不应该被一个人所掌控

应有一个强健的治理体系才行

但这个问题啊

现在还难以解决

---

后面剩下的时间呢

我觉得就是两个人纯粹在神侃了

说了半天

为什么Altman发推文只用小写

聊到对数学函数的着迷

Fridman还说自己准备去亚马逊雨林尝尝死藤水

甚至是聊到外星人

大家感兴趣的话可以自己去听一听

最后

最后呢

我想用Altman的一句话来结尾

AGI是否会更像是一个单独的大脑

还是会更像是联系我们每个人的社会基础设施

没人知道

但是重要的是

我们现在拥有的是我们所有人共同构建的知识和技能的框架

没有一个人能够独自发现所有的科学知识

但是我们可以利用这些知识

从而获得惊人的能力

所以从某种程度上来说

这是我们大家集体努力创造的成果

这让我对未来充满希望