扎克伯格:开源 Llama 不是做慈善,是希望大家帮忙改进模型!

d038b690cf68f7b6571d0ff51d2aafc1.gif

文 | 王启隆

出品丨AI 科技大本营(ID:rgznai100)

最近的扎克伯格一改以前的形象,呈现出了一种“松弛感”。

许多网友也调侃,小扎在发布了 Llama 3.1 之后开朗了不少,从以前紧绷的那种“蜥蜴人”状态,逐渐变回了大学创业时期的大男孩形象。

30160b25796dd2de78f93a5835a0283b.jpeg

网友用一张梗图来形容小扎的形象转变

左边:面试时的经理  右边:入职后的经理

最近,扎克伯格又接受了创业孵化器 South Park Commons(SPC)的采访,采访的主持人是 Ruchi Sanghvi 和 Aditya Agarwal,两位都是 SPC 的合作伙伴,同时也曾在 Facebook 的早期扮演了关键角色。和两位“开朝元老”的叙旧,令扎克伯格透露心扉,内容也是相当精彩。

9d88e23a7a2191136c98a668f7d25589.jpeg

Ruchi Sanghvi,Facebook 的第一位女性工程师和产品经理,对 Facebook News Feed 的开发做出了重要贡献。在她的回忆中,News Feed 发布时面临的工作压力相当之大,并用了“作战室”这个词来形容当时的办公室会议紧张程度。

f7f297bed85f178f345e1ed0f2d7e39e.jpeg

Aditya Agarwal,Facebook 的早期工程师之一,后来担任了公司的副总裁,对公司的技术发展和产品战略有着深远的影响。在采访中他还吐槽:“马克当时居然让我一个人去打造 Facebook 的搜索引擎!他还说,既然我能做出 Facebook,那你也可以做出该死的搜索引擎。”

通过这次坦诚的对话,我们得以一窥 Facebook 早期团队的运作方式,扎克伯格如何保持公司在创新前沿的地位,以及成功的最重要因素究竟是什么。从个人形象的转变到对技术未来的深刻洞察,从 Meta 的发展历程到对开源 AI 的坚定信念,小扎都进一步分享了自己的故事和见解。本文翻译了这场一小时的采访,并带你走进这位科技巨头的内心世界,探索他如何从一位年轻的创业者成长为全球最具影响力的科技领袖之一。

e2225a021dbcad74800550effd871c88.png

Oculus 背后的故事: 

我本来想收购 DeepMind,但他们最终被谷歌买下了

Ruchi Sanghvi:大家下午好,欢迎来到 South Park Commons(SPC)。我想大多数人都知道,SPC 是为那些才华横溢的建设者和技术人员而设的平台,这类人群往往在试图弄清楚下一步该做什么,我们定义这为从 -1 到 0 的阶段。今天,SPC 有幸邀请到了马克·扎克伯格——他是我的第一任老板。(观众大笑)

众所周知,马克是 Meta 的创始人和 CEO,但今天我还很想强调他的身份是一位建设者、黑客和原创思考者。我们真正要讨论的是,马克是如何在几十年里建立了 Meta,并保持了从 -1 到 0 的创始人心态,让 Meta 始终站在创新的前沿,尤其是最近还推出了开源的大语言模型 Llama 3.1

那么,让我们开始吧。马克,你在过去的几年里有了很大的变化,是什么让你有了这样的转变

扎克伯格:嗯,我伤了我的膝盖。(观众笑)所以我剪了短发,前段时间一直在搏击和训练,然后我就想,“我没法这样持续九个月。” 顺便说一下,这周我已经正式痊愈了。所以就像是,我准备好来点暴力了。(观众欢呼)但我可能会继续保持现在的状态。

但我不知道,我年轻的时候还留过更随性的发型。我记得普莉希拉(马克·扎克伯格的妻子,普莉希拉·陈)曾对我说过,“嘿,你应该让头发长长些。” 我当时想的是,反正接下来的九个月我也没别的事情可做。所以现在看起来挺不错的。

Ruchi Sanghvi:你的新形象看起来确实不错。

言归正传,过去 20 年里你也一直是科技领域的主角。你是如何划分你所经历的不同阶段的?你认为我们现在处于哪个阶段?

扎克伯格我正努力不再成为主角。我认为这样做还挺有效的。对我来说,只要能成为别人成功的陪衬就已经足够了。Facebook 在早期阶段面临的挑战是如何生存下来并发展壮大。而在过去的十年里,随着政治因素、波动性和责任感的介入,一切都变得截然不同,这对公司来说又是一个全新的阶段。

显然,这一切都还没有结束。不过现在我们基本上已经掌握了各个方面的要领,并投入大量精力去应对我们需要处理的问题。我对现状感到更加满意。这也让我们能够更加积极主动地去做一些真正有价值的事情。我认为社交媒体之所以重要,是因为它赋予每个人发言权和连接他人的能力,很多人在使用它

实际上,我认为 Facebook 并不是特别革命性的。换句话说,它提供了一种相当基本的功能,而这只需要良好的执行力。我认为这种规模本身就意义非凡。但这正是一个提示,按照你的比喻来说。对于我个人职业生涯的下一个阶段,以及未来十年乃至十五年想要做的事情,我会更加专注于创新和激励人心的事物,无论其规模大小。

因此,对于下一代计算平台,比如我们正在研发的 AR 眼镜和 VR 头盔等产品,我相信会有数十亿人使用它们。已经有数十亿人在佩戴传统眼镜。这意味着每个人都会自然而然地从非智能眼镜升级到智能眼镜,有些人可能会稍晚些。我认为这一过程可能需要十到十五年的时间,这对于构建如此基础性的全球产品来说是很正常的。但是当我们第一次尝试 AR 眼镜时,体验是惊人的。我们现在已经有了第一个可行的原型,我希望它能成为我们的第一款消费级产品,但我希望第一个公开发布的版本能做得更好。所以我们决定将第一个版本作为原型。

然而,当人们戴上这款眼镜时,他们会感到震撼无比——就像体验到了一个全新的事物,可以在现实世界中操作全息图和其他对象,就像它们真实存在一样,而且这一切都是通过一副普通眼镜实现的。这是一种非常酷炫的体验。对我来说,这就是很大的一部分。我认为还有人工智能领域的问题,我想我们会花更多时间讨论这个话题。

不过,更重要的是去做真正卓越的事情。我在 Meta 内部经常告诉团队成员,做好事和做卓越的事之间是有区别的。这是一种灵感上的差异。做好事本身就是有价值的。我的意思是,你可以做到卓越却未必有益。这两者是不同的维度。但无论如何,我认为现在我们正处于一个尝试去做卓越事情,构建卓越产品的阶段。

Aditya Agarwal:确实很有意思。我们在 SPC 有一个口号是,“你来这里是为了摒弃好的想法,追求伟大的想法。

我想我会稍微调整一下这个说法。从追求“伟大的想法”(great ones)变成追求“好点子”(awesome ones)。人生苦短,时间是有限的,每个人都可以有好想法,但我们将只追求其中的那些好点子。

谈到这十年的历程,我认为人们往往会忘记的一点是,早在 Llama 3 十年之前,你就开始了 FAIR(Facebook 的人工智能研究实验室)的工作。事实上,我还记得自己在 Facebook 工作的最后阶段,我们一起合作的项目是 2010 年的系数项目,我们尝试利用机器学习技术为每个邻接图分配权重。那是个不错的项目,效果很好。

扎克伯格:是的,这最终对我后来的工作至关重要。

Aditya Agarwal:谢谢。那么,当你开始投资 FAIR 时,你能带我们回顾一下早期的日子吗?我的意思是,回到 2014 年的时候,我们还处在人工智能的寒冬时期——这是一个用来形容人工智能领域发展停滞不前的时期,那时候你试图种下的种子是什么?你是怎么从 -1 突破到 0 的?

扎克伯格:是的,大概在 2012 年左右,那时 Facebook 刚上市并且已经拥有十亿用户,我正在试图想清楚下一步该做什么——显然,Facebook 后来扩展到了超过三十亿用户,并且还在继续增长,这在我看来有些不可思议,因为人们通常认为它的增长潜力已经被耗尽了,但它仍在持续增长。

但在那个时候,我思考的是,下一步该怎么做?

一方面,我已经建立了一个社交应用,但也让我感觉有一定的运气成分在里面,我会忧虑自己能否再建立四个达到十亿用户的社交应用,或者把一些小的起步项目发展成巨大的成功?

此外,我还考虑的是,下一代爆火的平台会是什么?这是我思考了很多的一个问题,因为社交媒体和我们建立的应用程序,都是在智能手机兴起的同时开始的,对吧?我们在定义智能手机的过程中并没有扮演任何角色。后来,我们曾经尝试进入手机市场,从中我们得出的教训是,这个平台已经相当稳定和固化,我们不会在这个平台上产生太大的影响。即便可能需要 15 到 20 年的时间,下一个主要平台才能达到今天手机这样的规模,那就是我必须要去做的事情。我不会撞南墙,再去尝试创造和手机类似的另一种平台。

同时,构建其他平台也存在一些问题。其中之一是缺乏对自己命运的控制,我觉得这非常令人沮丧。当你开始时,你需要应对各种各样的事情,风向随时可能改变,有无数的因素可能让你失败。但这并不是什么大不了的事情。但当你成为一个更大的公司时,你会想要做出长期的赌注,这意味着你希望你的环境假设更加稳定。所以,对自己基础设施有更多的控制非常重要,这样你就知道当你建立了某个东西后,它不会告诉你不能发布,或者它不会突然改变规则。这非常重要。

另一点是,这可能只是我个人的观点,但当你在建立社交应用时,你主要通过人们随身携带的小屏幕来传递这些应用。这是一种在某些方面反社交的形式因素。这也是为什么我对眼镜这么感兴趣的原因,因为它是一种更自然的方式。

所以在 2012 年左右,我们开始考虑下一步,并启动了 FAIR,同时也收购了 Oculus。我当时在想,如果我们没有 Oculus,我们是否能够启动 VR 和 AR 的工作?理论上来说是可以的,毕竟我们为此投入了大量的资源,但在当时,正如你记得的那样,公司的氛围并不倾向于让人们在一个角落里坐上五年去开发一个独立的项目。我们几乎需要一个独立的起点来孵化它,甚至让我们的文化接受它将成为一个重要项目这一事实,尽管我已经决定,我们现在就要做这件事。

8a3ee8cb49bec5104ebd9aad215241e5.png

Facebook 斥资 20 亿美元收购了 Oculus

于是,我们开始了 AI 方面的工作,并启动了 FAIR。我本来想收购 DeepMind,但他们最终被谷歌买下了。Demis Hassabis(DeepMind 首席执行官)很好地利用了我和谷歌之间的竞争,得到了一个好价格,对此我表示尊重,也佩服他的谈判技巧。

但无论如何,我们自己完成了这件事。因为我们没有建立一个封闭的研究实验室,我们吸引了很多来自学术界的人才。这为我们奠定了开源工作哲学的基础。我们在许多其他方面也采取了同样的做法,在当时的 Facebook 中。尤其是在 AI 领域,我们的做法非常学术化、开放,并引入了许多领域的奠基人。

在最近这一波 AI 热潮出现之前,我们主要关注的是基础研究。这些研究被应用于我们所有的排名、推荐和广告系统中,为公司带来了显著的成果——但并没有形成单一的产品,这就缺乏了一种震撼感。

就像我们之前讨论过的那样,AlphaGo 或 AlphaFold 这样的成果让人感到非常振奋,当你看到它们时,你会觉得这是一个对领域有着重大贡献的标志性成就。所以在 AI 方面,我碰壁了很长一段时间。

最近随着能够构建不同种类的辅助工具的发展,我认为产品化的时刻才真正到来了。因此我们又创立了 Meta AI,打造世界上使用最广泛的辅助工具。对此我感到非常高兴。我们将确保每位创作者、每个小微企业和个人都能够创建自己的虚拟助手或虚拟伙伴,或者他们想要的任何其他东西。你将在元宇宙中有 NPC 来参与游戏等互动,我觉得这将是十分出色的。但我们确实花了很长时间才搞清楚这一点。从 2012 年到 2014 年左右,正是我们认识到这两件大事——AI 和元宇宙的时候。

0e5bae81c3d27176da7a4dc3c6694ad9.png

想把 Llama 打造成一整个生态

Aditya Agarwal:看到训练这些模型所需的时间如此之长,真是令人难以置信。

扎克伯格:你说得对,需要的时间远超我的预期。我认为这是创业过程中的一个重要教训,就是你必须热爱你所做的事情,因为如果只是理智分析的话,那会太过痛苦。

Aditya Agarwal:确实如此,创业不能仅仅依靠理智。关于人工智能的一个公开问题在于,很多人认为大部分的价值会被大玩家获取,无论是通过大型语言模型还是像谷歌或微软这样的大公司。对于初创企业来说,似乎很难与这些大企业竞争,不仅仅是因为它们缺乏规模。

而你们显然是一家大公司,同时也在为所有人提供这些宝贵的资源,从某种程度上推动了行业的发展。那么,对于这个满是创始人的房间来说,你是如何看待他们如何应对规模与非规模之间的竞争问题的?

扎克伯格:是的,我认为几乎每一个产品类别都将受到影响。将有很多事情可以做。有些事情本质上是非常资本密集型的,这类项目不太适合初创企业。比如,构建大型基础模型需要数十亿美元的训练成本,这类项目可能只有少数几家公司能够承担。

但好消息是,随着时间的推移,这类资源可能会变成一种商品。而且我不确定最大的价值就在这里。我认为更大的价值在于基于这些资源可以构建的各种不同的产品。我认为我们所做的每一个方面都将以某种方式发生变化。例如,信息流将从朋友的内容转向创作者的内容,未来则会更多地由人工智能生成。广告也将从广告商自行定位转变为广告商只需给出他们的商业目标,然后由我们来制作创意并找到目标受众。所有这些变化就像是走进了一个梦境,一个清醒梦,你在这个世界中漫步,体验非常疯狂,各种各样的事物随之诞生。你可以指出几乎任何现有的产品体验,我认为它们都会发生变化。其中一些可能会有一些大公司拥有分销优势。但是,大公司往往行动迟缓并且缺乏决心。我认为这是作为一家创始人驱动的大公司的优势之一。

但我时常思考的一个问题是,为什么我们能够建立Facebook,而其他公司却没有做到?我并不是说这是一个多么新颖的想法,而是,之前有 Friendster,有 MySpace,且 Google、Microsoft、Yahoo 都有类似的产品,为什么它们没有做出 Facebook?我认为原因在于,在新想法实现之前人们总是会持续怀疑它

在我们开始的时候,大家都说“这就是大学生创业,没什么大不了的。”

过一段时间后,Facebook 席卷了一股潮流。大家转而说“也许看起来它会持续一段时间,但可能赚不了钱。”

再过一段时间之后,Facebook 开始赚钱了,他们又说,“但转移到移动平台会很困难。”

最后,等到所有人弄清楚局势的时候,那些失去优势的公司已经来不及了。那么问题出在哪里?我不知道,可能是那些公司内部深处有个团队相信这一点,也可能某个副总裁级别的人觉得这不是最优先的事。因此我认为,即使对于那些看似属于大公司的机会,因为它们具有分销优势,我猜大公司也会搞砸三分之二的机会。然后还有一些情况,没有明显的新的优势,因为它接入的是现有分销渠道。这些机会是开放的,我认为可以去抓住它们。

至于 Meta 正在做的 Llama 项目,我想说的是,我真的非常支持开源,开源对整个世界都是有益的。但是,我们开源并不是出于无私,而是因为我们想要建立一个我们知道可以依赖的平台,而 Llama 就是这个平台的一部分。事实是,Llama 是一个生态系统,并不是一个单一的软件,开发者可以自己构建和部署。当所有的硬件供应商都在优化他们的堆栈以适应我们正在做的事情时,这个生态系统就会变得更好。当有其他公司、初创企业或其他人构建不同的蒸馏工具或推理工具来让你运行得更快或更高效时,这一切都会变得更好。所有人都在这个基础上构建东西。

我们最近发布了“Segment Anything”模型,它与 Llama 不同。但在发布后的第一周或两周里,就有许多人用视频测试这个模型,从而使模型变得更好。所以我认为这对每个人都是好的。

当你思考计算平台的未来时,我认为有一个很大的近期偏差,人们假设因为 iPhone 取得了胜利,封闭模式将会继续获胜,那就是世界的现状。但我却认为未来还没有定论。如果你回顾 PC 时代,Windows 是最主要的平台,所以总有一种开放的方法,也总有一种封闭的方法,每种方法都有其优缺点。很多东西取决于谁去做了它。对于初创企业与任何懒惰的大公司之间的区别是如此,对于开放平台与封闭平台哪个将最终成为下一个领域的主要平台来说也是如此,这些道理同时适用于 AI 领域和元宇宙领域。

Aditya Agarwal:我要分享一个小插曲,这实际上可以说是我生命中决定性的 30 秒。那是在 2005 年,我刚加入 Facebook 不久,也许是第二周或第三周,当时我还在摸索要做什么,没有人真正给我太多的指导。我记得马克走到我面前——

扎克伯格:那时候公司还没有很清晰的管理结构。

Aditya Agarwal:确实没有明确的管理结构。完全正确。那时一片混乱。我记得马克走过来对我说:“嘿,伙计,我觉得你应该为 Facebook 写一个搜索引擎。”

扎克伯格:就你一个人写。

Aditya Agarwal:是的,你还说:“这非常重要,因为当人们来到 Facebook 时,他们首先想做的事情就是搜索别人。所以你可别把它搞砸了。”

我当时的第一反应是:“马克,我不知道怎么写搜索引擎。我从来没做过这个。我们为什么不从谷歌或雅虎找个人来做这件事呢?”

你看着我,说:“伙计,既然我能建立 Facebook,那你也能写出一个该死的搜索引擎。”

扎克伯格:你做到了!我说的就是这个意思,伙计。

Aditya Agarwal:哦,好吧。这 30 秒让我刻骨铭心,因为它让我知道,任何人只要下定决心都能做成任何事情。对我来说,这就是至今定义 Facebook 的文化,这种黑客全权负责的文化。但如果我能给全世界的每个初创企业一个建议的话,那就是你们都可以做任何想做的事情,只要你们下定决心去做。这可能比你想象的更容易。这里有个问题。

扎克伯格:我认为有时候这需要的时间可能比你预期的要长。需要更长的时间。但你一定能做到。对吧。我认为许多看起来显而易见的事情,并没有其他人真正去完成它。对吧。所以我认为这就是最奇怪的一点。但这让人有种安心的感觉,嘿,有很多事情应该有人去做,而且其他人会搞定,对吗?而事实上,没有其他人会搞定。我认为现在轮到我们来挑起大梁了。

a6799d47b4703325d72aa66753df558f.png

开源 Llama 不是做慈善,利他 < 利己

Ruchi Sanghvi:我想回到 Llama 的话题上,谈谈开源 Llama 的事。我想问的是,你希望看到哪些现实世界中的例子基于 Llama 构建呢?

扎克伯格:我不知道。实际上我认为会有许多很棒的东西被构建出来,但我并没有具体的想法。从我的角度来看,我希望每个人都在使用它,因为我认为使用的人越多,Llama 改进的“飞轮效应”就会转得越快这可能是个相当自私和狭隘的回答,但是这样的话,我就可以更好地构建我自己想要的东西。

但说实话,我认为人们应该从中得到安慰,因为人们对于开源策略的一个大疑问就是:“为什么你要这么做?比如,你在构建这个模型之后,然后就把它免费开放出去。这样做可持续吗?比如,当 Llama 4 或者 Llama 5 需要花费数十亿美元来训练的时候,你还会免费开放吗?” 

我的回答是,我不认为这是免费开放,反倒认为这是你们都在帮我把它变得更好因此,只要负责任地使用,我并不关心你们会拿它做什么。我确实认为安全性很重要。围绕着人工智能伦理、安全性和安全性的问题很多。我认为这些问题最终会变得非常重要。我们会投入大量时间。这是训练过程中最困难的部分之一,也是让开源变得困难的原因之一。如果我们只是为了自己构建它,我们可以做一些假设,比如,除了模型本身之外,我们还可以在堆栈的多层中过滤掉不良的内容,比如过滤掉那些无意中产生的不良查询和输出。

我们试图在开源版本中复制一些这样的功能,并构建了整个 Llama 保护系统。这个系统旨在作为一个整体部署。但从根本上讲,我们必须投入更多的精力来训练实际的基础模型,因为它可以作为一个模型独立使用,不需要其他那些层。所以,这可能是对你问题的一个否定回答。我认为开放平台的好处之一就是人们会构建出你从未想到的东西。

我不知道应该要求人们构建什么,所以你们自己来决定吧。但我觉得我担心的是,我认为其中的一些机会和挑战在安全性方面更大。我认为开源安全辩论的很多内容都是围绕着这样一个观点展开的:由于我刚才所说的原因,开源本质上就不那么安全但实际上,如果你做得好的话,它会变得更安全,原因与开源软件随着时间变得更加安全是一样的。它是开放的,人们可以更仔细地审查它。这听起来有些反直觉。一开始人们会说:“嘿,黑客可以找到漏洞,这不就让它变得不安全了吗?” 其实不是,你会更快地修复这些漏洞,大家都会更新补丁。同样的情况也会发生在 Llama 上。人们会指出问题所在。我们会持续推出小版本和大版本更新。我认为开发者会一直想要部署最新的模型。他们会把这些微调的补丁应用到最新的模型上,这将是很好的事情。

所以,我想说的是,整个堆栈,从硅片到数据中心的一切。我们之前也做了开放计算项目,有点类似我们正在设计自己的数据中心和服务器。让我们看看能否把这个东西开放出去,这样整个行业可能会围绕我们的设计标准化。供应链会得到发展,价格会降低,这对每个人都有好处。而现在,我们有一个优势,我们是在谷歌之后。也就是说,谷歌先做了所有这些工作。所以我们并不是为了获得专有利益,只要它存在,而且变得便宜,对我们来说就很棒。我认为我们在人工智能领域的情况也大致相同。

Aditya Agarwal:对于这些模型的扩展极限,你的最佳判断是什么?如果它们继续遵循 Scaling Law,那我们还有多少发展空间?

Ruchi Sanghvi:除此之外,限制模型发展的因素又有哪些?

扎克伯格:这是一个很难回答的问题。我认为计算能力是一个关键因素。虽然我们不确定具体可以扩展到什么程度,但我们确信模型仍然有很大的扩展潜力。因为基础设施建设不能停止,所以我们很难精确预测何时能达到极限。这整个过程大概需要五到七年的时间,这一切都是为了将来能够让像 Llama 10 这样的模型达到巨大的规模

而这项工作必须提前开始——他们可以在六到九个月内完成模型的训练,但是获取所需的计算资源却是一个长期的过程。因此,我认为扩展法则将继续有效,而模型的发展在很大程度上将取决于数据。许多新的数据将来自不同的领域。在过去,互联网上并没有这样的大规模数据集。现在,各大公司正在积极收集互联网上的各种内容,并试图从中发现所有可能的模式。这就是预训练模型的做法。随后,各大公司会针对特定的应用场景或功能进一步训练这些模型。

当这些模型开始接近展现出类似通用人工智能(AGI)的行为时,相应的数据集还不存在。因此,你需要自己创建这些数据集。我认为未来的许多工作不仅涉及利用现有的数据以及构建相应的计算能力来处理和训练模型,还会涉及到一些类似今天推理的工作,例如如何创建一个智能体的数据集?可能需要一定的人工工作量,同时也需要让系统自由地进行探索。不断地通过自身的活动来生成数据,并在这个过程中进行实验。这只是一种例子,但这是一种目前尚不存在的新事物。所以我认为关于它能走多远的问题,我认为它可能会走得相当远,我对这一点持有乐观的态度,不过确实很难确切知道答案,总而言之,这是一件很酷的事情。

c2c21be643d9f755394b391930d5350b.png

下一代主要公司将会基于开源 AI 技术建立起来

Aditya Agarwal:Ruchi,你想不想带我们回顾在 Facebook 早期做媒体的时光?

Ruchi Sanghvi:Aditya 刚刚分享了自己在 Facebook 的经历。而我呢,我记得当时在开发 Facebook News Feed(新闻动态)时,我参与了非常多的高压会议——

扎克伯格:你是最初构建 News Feed 的六人团队之一。

Ruchi Sanghvi:而且我当时的工位就在你旁边。这并不总是好事,Facebook 早期有很多堪比“作战室”的高压会议,以及封闭式的工作时段,特别是在 News Feed 发布之后,我几乎整整一周都没离开过办公室。

扎克伯格:是的,那是最严重的一次,外面的街道甚至有抗议者。我们当时想,“你可能连前门都出不去,因为人们真的非常生气。”

Ruchi Sanghvi:没错,我很想知道你最近有没有经历过这种类似于“作战室”的高压工作体验。比如说围绕 Llama 项目,或是当 Llama 的权重被泄露的时候?

扎克伯格:这涉及两个不同的方面。现在我不再像以前那样深度参与那些运营或决策的工作。早期,我们关注的是 News Feed 这样的核心功能。我认为我们处理重大战略问题的方式也在逐渐改变。我不知道具体怎样描述,但我正在尝试学习如何更平稳地管理公司。很明显,在这方面我还没有成功,Meta 仍然起伏很大,但我想总有一天,在未来的某个时刻,我希望我能学会如何更平稳地处理这些事情,当然前提是不放弃我们所做的创新和酷炫的工作。我认为让事情变得更稳定的一个明显方法就是不要那么用力地加速,但我作为一个人做不到这一点

我们过去经常处于高度紧张的状态。我认为这可能是因为缺乏经验,需要用更多的努力来弥补不足,但随着时间的推移,我们需要变得稍微稳定一点。我们现在遇到的很多危机,也许是一种不幸的现象。这可能既是因为公司规模变大,也是因为现在的世界状况。可以说,我们现在面临的更多挑战是社会和政治性质的,而不是技术上的。

就像当初第一个版本的 Llama,我们原本打算作为一个学术项目发布,结果它却流传出去了——这其实很酷——但我们在试图弄清楚该如何妥善处理这种情况。这不是那种紧急的情况。我认为这种泄露并不坏,反而很酷。因为人们真的很想要这个东西。我们需要弄清楚正确的处理方式。

人们想要我们意外地半公开的那个开源 Llama 项目,它的初衷是开源的,但更像是一个学术性的项目。然后它立刻就引起了广泛关注。我们内部进行了两次讨论。第一个问题是,“这是否是好事,我们应该继续做吗?”这个问题很快就解决了。我们认为这是好事,我们应该尝试去做。

第二个问题是,有时候政治或社会的辩论进展得非常快,我认为关于开源的辩论将在未来 5 到 10 年内成为最重要的技术政策辩论之一。我们已经取得了很大的进步。我认为我们取得进展的部分原因是因为很多人在拥抱并使用 Llama。坦白说,我认为初创公司和创业精神通常比大型科技企业更受欢迎。所以,我们这样做是否会受欢迎呢?我不知道,可能会,也可能不会。

当有大量的人开始使用它时,这是好的。我认为人们会更加倾听这些声音。他们会说,这很好。我们希望有新的公司出现。但在我们实际推出 Llama 2 之前,即第一个商业开源项目之前,曾有过一场巨大的辩论。我认为其中的风险和担忧占据了公众讨论的主导地位,直到有很多初创公司开始使用这个东西。

考虑到开源相对于封闭源码的独特性质,我们当时必须在内部解决的问题是,如何负责任和安全地发布开源模型。我的看法是,如果我们做得好,并且确保我们在安全性方面做得非常好,随着时间的推移,我们会建立信任,建立起这个社区。想想今天的大型企业,它们都是基于开源软件建立起来的,对吧?如果现在这场关于开源 AI 的辩论顺利进行,我认为下一代主要公司也会基于开源 AI 技术建立起来

我认为有些事情就是这样,虽然一路上会有挑战需要面对,但我们必须小心谨慎地处理。这就是为什么我们对所做的事有一些限制,有时候会放慢一点速度。从 Llama 1 泄露到 Llama 2 发布,大概是几个月的时间,我们团队有一部分一直在研究模型,另一部分则在后台梳理所有这些问题,确保所有的责任问题都处理好,为未来打下基础。

4ff38f772f4cbfd435da59ff139c8fa7.png

扎克伯格的生意经:直接管理手下的大团队

Ruchi Sanghvi:接下来,我们稍微转换一下话题,来回答一些观众提出的问题。对于那些希望成为企业家的技术人员,你有什么建议?在与众多企业家合作的过程中,我发现他们常常面临局部最优解的问题。你对他们有何建议?

扎克伯格:我认为你提到的“从 -1 到 0”的概念与我个人探索新领域的理念非常吻合。在我最初创业时,有很多人决定创办一家公司,随后他们会全力以赴地投入到某个项目中。然而,一旦一群人开始共同推进一个项目,想要改变方向就会变得相当困难。虽然你可以凭借决心来调整航向,但这通常需要时间。因为在早期阶段,你会处于探索一个极为广阔且不断变化的领域之中。在这个阶段,你需要具备的不仅是能够在头脑中快速做出决策的能力,更重要的是要有高度的灵活性,甚至随时准备改变你的想法。有时候,你可能会在短短几个小时内就转而从事一项全新的任务。

因此,在我还是大学生时创建 Facebook 的第一个版本时,并没有预料到它会成长为一家大型企业。顺便提一下,当时——你还记得吧——我和达斯汀(Facebook 联合创始人 Dustin Moskowitz)刚启动了 Facebook,他加入我一起工作,因为我那时还要忙于上课,被困在计算机科学实验室里编写 PHP 代码。我忙于作业,甚至连手机信号都不稳定,以至于网站出现问题时我都浑然不知。就像是,当我从解决某个问题中抽身出来后才发现,哦,网站已经宕机了一段时间。那真是一团糟。于是达斯汀介入帮忙,他非常能干,基本上成为了我们的首位工程师和运营人员,确保网站的正常运行。没有他,公司可能无法取得成功。达斯汀确实是个了不起的人。

而在那个第一年的春天之后,因为我是在二月份推出的产品,我们来到了硅谷,并认为这里是度过夏天的最佳地点,还是许多企业的发源地。在硅谷,我们能够学到很多东西。我们当时所做的事情很可能并不是最终要经营的业务。尽管我们已经开始运营 Facebook,而且已经有将近一百万用户。但我们并不确定它是否会发展成一家大公司。

从中我们可以吸取什么样的经验教训呢?在大学期间,我实际上创建了许多不同的项目。我热衷于创造事物。有时我会为选课感到困惑。于是我开发了一个服务,这个服务可以从课程目录中抓取信息,让用户输入他们已经完成和计划修读的课程。然后,系统会显示这些课程之间的关联性,例如,上过某门课的人可能对另一门课感兴趣。

此外,系统还包括有关课程评价的信息。这部分非常有趣,因为我开始这么做的初衷是想做一些众包的事情,比如帮我决定应该选择哪门课。但实际上人们更喜欢坐在那里浏览其他人正在修读的课程。因为实际上大家真的很好奇别人的动态。所以你感兴趣的课程不仅对你自己而言是一个有趣的信号,也是了解他人的一种途径。所有这些元素,我认为,都汇聚到了 Facebook 的首个版本中。我大概做了十个类似这样的项目。

而在我的高中时期,这样的事情也有很多,我记得有一次我在做一个项目,期末考试即将来临。我当时上了一门关于罗马奥古斯塔时期的课程,那是一门历史课(编者注:值得一提的是,后来扎克伯格和他的妻子给三个孩子取的名字都取自罗马皇帝的名字:八岁的马克西玛 Maxima、六岁的奥古斯特 August 和一岁的奥雷利亚 Aurelia。扎克伯格以前采访还说过他对历史上的奥古斯特皇帝非常痴迷,就是源自这门历史课)。

根据学校的要求,我们需要修读一些文科课程。我不清楚现在他们是如何描述这些课程的,但总之,为了准备期末考试,我们需要掌握一些艺术品的历史背景。考试形式主要是展示一些艺术品,然后我们要解释它们的历史意义。

那时候——我几乎把所有的自习时间都用来做那个项目。所以在考前的几个小时内,我迅速制作了一个小工具,抓取了所有相关的艺术品信息,并给全班同学发送了一个链接。我对他们说:“我做了一个学习工具。如果你们愿意用的话,它会随机展示一件艺术品,你可以写下你认为它的历史意义是什么。然后你可以查看其他人的答案。”结果那次考试的成绩比以往任何时候都要高。但说实话,我一直坚信这种方法。

也就是说,如果你想要做一些不同的事情,不要过早地投入太多特别是开一家初创公司的时候因为在那种情况下,很难预测五年或十年后世界会变成什么样子。但我觉得最困难的事情是要找到自己的切入点,这通常有不同的方法。有些人通过设定目标“我要创立一家初创公司,并且我会坚持不懈直到成功”这种方式取得了成功,但我始终更倾向于去做很多自己感兴趣的事情。这样你会学到不同的东西,并且尽量避免了过早地投入太多资源,因为要在需要做的事情上彻底转型是非常困难的。所以我认为,从这个角度来看,持续不断地探索是很重要的。我认为这样做非常有价值。

Aditya Agarwal:当有人问我关于我在 Facebook 的成就时,我会提到我确实推出了一些非常成功的产品,但我也参与了不少最终未能成功的项目。我觉得即便在内部,我们也有一致的看法:你应该全力以赴追求那些你认为可能会非常出色的产品。但也不要太过执着,以至于把个人的自尊都绑定在上面。毕竟,创新和尝试就意味着有些东西可能无法成功,而这完全是可接受的。这也是我至今仍对 Facebook 感到敬佩的一点——它总是勇往直前,同时清楚地认识到并非所有尝试都能成功,而这正是它的魅力所在。

扎克伯格:没错,我在公众面前犯过的错误比这个行业里的任何人都要多。迈克尔·乔丹有一个广告曾给我留下了深刻的印象。广告中提到他一次又一次地失败,然后他说,这正是他能够成功的原因。沃尔特·艾萨克森所著的《爱因斯坦传》也传达了类似的观点。爱因斯坦提出的许多理论最终被证明是错误的,但其中有一些是正确的,而这才是最重要的。

Ruchi Sanghvi:我想你已经提到了一些关键点,但我还想追问一下。我曾在多家初创企业工作过,也帮助过不少初创企业。但当我回想起早期的 Facebook,它让我感到特别激动。我们不仅追求一种体验,更重要的是那种兴奋感。我对你们在招聘过程中做得好的地方感到好奇。你做出了哪些重要的招聘决策,从而吸引到了最优秀的人才?

扎克伯格:有两种截然不同但又相互关联的情况。

一方面,有很多充满热情的年轻人从大学毕业后,他们使用过我们的产品,所以他们觉得:“这个东西太棒了,我想在这里工作。”

另一方面,我在很长一段时间里并没有很好地构建起高层管理团队。我们频繁更换高管,就像是走马灯一样。因为我心中有一个理想化的工程师领导形象。他们可能都是很不错的人,但这与我们的企业文化严重不符,直到有一天彼得·蒂尔(Peter Thiel)带我出去吃午餐,并告诉我,这种情况必须改变。他指出,我与这些高管的合作并不顺畅。“你应该选择那些你愿意花时间相处的人,因为你几乎每天都在办公室,或者说你一生都在为这件事奋斗。”

我认为早期团队存在一个沟通的问题,那就是你想要与他们用同一种语言交流,并且有很多共同的假设。当然,也需要互相挑战。团队成员对事物有不同的看法,但我认为也有足够的共同价值观作为基础。

我认为这就是事情开始转变的时候。正如你所说,接纳一些混乱,比如缺乏经验,但我们都处在同一频道上。现在,美妙之处在于我们都成长了,他们都成为了非常成熟且卓越的高管,无论以何种标准衡量,他们在行业内都有着丰富的经验,我们已经共事了大约 15 年。人们经常会问我是如何做到的。际上,我会去直接管理一个规模相对较大的团队,因为我们有许多不同的产品线,我希望尽可能多地亲力亲为。对我来说,这就意味着我不想仅仅通过六七个人来管理一切。我直接管理着一个大约 25 人的团队,他们各自负责大约 15 个产品团队,涵盖了从主应用程序到广告,再到人工智能研究、智能眼镜、混合现实头显等各个业务领域。我们每周都会花大量时间在一起,这是我管理公司的一种方式——打造一个紧密团结的团队。

我觉得真正让我感到自豪的是我们的产品团队。而在业务方面则有所不同,比如你需要聘请一个经验丰富的总法律顾问,这是非常重要的。没错,比如克里斯·考克斯(Chris Cox),他现在是我们的首席产品官。我和达斯汀在任命他的问题上曾有过很大的分歧,克里斯显然很有潜力,且还很年轻,但达斯汀坚持我们需要他成为一名工程经理,而我反驳说:“达斯汀,你已经有了五位工程经理了。” 那时我真的需要一个能胜任人力资源主管的人,而不是第六个工程经理。

于是,克里斯先是顺着我的意做了几年人事,然后又回到了产品领域。今天的我特别自豪的一点是,我们公司的顶级产品负责人并非一开始就担任这一职位。他们都是从基层做起的。我们招聘了不少总监级别的员工,但也有许多人是从个人贡献者的角色起步,甚至有人是从行政岗位做起的。实际上,现在的管理层成员几乎都是通过承担不同的职责逐步晋升上来的。有人从非技术岗位做起,有人则从技术岗位开始,后来又转岗从事其他工作。我觉得这真的很酷。

我的意思是,虽然你可以独自克服许多困难,但我相信,当你对某个想法有了更深的理解后,它就会变成一项真正的团队合作。你所感受到的喜悦和面对挑战时的压力,很大程度上取决于你身边的队友。这确实不容易。事情往往比预期的耗时更长,还会遇到各种预料之外的问题。所以,我想这就是我始终对自己的工作充满激情和快乐的原因之一——因为我热爱和我共事的同事们,他们就像我最亲近的朋友一样。

Ruchi Sanghvi:你怎么应对创业和经营公司过程中的情绪起伏?在过去二十年中,你的情绪有何变化?

扎克伯格:嗯,这个问题挺复杂的。我觉得随着公司规模的增长,经历的周期也变长了。比如以前我们推出 News Feed 功能时,很快就开发出了首个版本,之后很快就迎来了一波高潮,但紧接着就有人表示不满。

通常情况下,这些问题会在一周内得到解决,一切又恢复正常。但现在,我们做的事情规模更大了,这也是创办初创企业的乐趣之一,当然也很忙碌。你总感觉自己在极度的情绪波动中挣扎,有时候甚至觉得自己快要撑不住了。我并不怀念那种状态,因为真的很累。

确实很累,我不确定自己是否愿意再经历一次。现在的周期变得更长了。我想这需要一定的毅力,需要周围人的支持,而且往往要等到事情过去之后,才能真正意识到当时的情况有多么艰难。回想起来,我们处理过的某些问题,我现在甚至都想不起具体细节了。

我只是尽力一步一个脚印地往前走,继续做好自己的本职工作。而当你回望过去的时候,会感慨万千,心想:“哇,那真是一段难忘的经历。”

Ruchi Sanghvi:看来即使是马克这样的强者,重新振作也需要极大的动力。我们所能做的,其实就是一步步地前进,继续前进,永不言弃。我想也没有其他的选择了。

96a95a013e3dacfee2a76018279156e7.png

与志同道合者同行

Aditya Agarwal:换个轻松的话题吧,聊聊有趣的事情。疫情期间,我学了不少新的运动项目,比如滑雪。我还自称是个中级冲浪爱好者,学会了尾波冲浪,甚至还稍微掌握了一些水翼板技巧,这真是太棒了。这些运动给了我释放压力的机会,让我能置身于自然之中,同时也学到了不少新东西。

马克,你显然也学到了很多新技能。你为什么会喜欢这些运动?这些运动之间是否存在某种共通之处,你是如何将它们运用到生活中的?

扎克伯格:正如我之前所说,当你经营一家大型公司时,周期会变得很长,尤其是当你涉足硬件领域时,对吧?或者就像你在训练一些基础模型时那样。有些事情在限定的时间内是很好的,我必须专注于一点,否则就会被击倒在地。而且,我也可以反击。这就是我喜欢综合格斗的原因——但现在,他们肯定不会再让我在办公室里玩拳击了。我想这是正确的。

Aditya Agarwal:让我们以亚历克斯·佩雷拉(Alex Pereira)作为结尾吧。

c6f89f5d2777871a886354435804c694.png

图注:在前段时间刚结束的巴黎奥运会前夕,扎克伯格为了预热奥运,曾与前 UFC 中量级冠军亚历克斯·佩雷拉一起制作了一段以奥运为主题的娱乐视频。两人举办了一个“模拟奥运会”,一起参加了击剑、拳击、100 米短跑等运动,且扎克伯格在某些项目中的表现甚至赢过了佩雷拉。

扎克伯格:噢,亚历克斯真是太棒了。我们的经历很相似。年轻时我也非常喜欢运动,而且竞争心很强。后来创办公司后,基本上就不怎么运动了。虽然偶尔还会举重,但并没有设定什么明确的目标。然后在疫情初期,一切都变成了远程工作,我就想更深入地投入跑步。我们全家在夏威夷待了一段时间,我因此开始接触冲浪,发现这项运动真的非常好。因为它让人亲近自然,景色宜人,同时还能锻炼身体。你不想被浪打败,站在浪尖上又非常刺激,而且这项运动还很有策略性。后来,虽然我不再住在夏威夷,但我一直在想,在陆地上有没有类似的活动?于是我就开始学习武术。

就这样,我和几个朋友开始一起训练,然后其中一个朋友说他要去参加比赛,我很好奇他会表现得怎么样。我想,我是不会去比赛的,因为那样太尴尬了。你知道,如果我去比赛,很可能被某人撂倒。但他去了,并且表现得很好,我当时就想,真不错,于是我也决定参加下一场比赛,结果赢得了一堆奖牌。

再后来,跟妻子普莉希拉(Priscilla)谈过后,她同意我可以参加一场 MMA(综合格斗)的比赛。我觉得自己有能力长期练习柔术,但在这种工作环境下,头部受伤总是有一定的风险。所以我打算参加一场 MMA 比赛,结果我扭伤了膝盖,现在我又回来了。

Aditya Agarwal:这让我想到 2009 年,那段时期的马克非常专注,这一年尤其认真,甚至会穿着衬衫和领带上班。然后我们决定进行一个俯卧撑挑战,看看谁能第一个在办公室里完成 10000 个俯卧撑(自己记录的成绩)。最后,Alex Himel 赢了,现在他负责 Meta 的 AR 眼镜项目

扎克伯格:他赢了,但我也紧随其后。他已经为公司效力了很久,并且表现非常出色。他那时还是个工程师,而现在他是公司里数一数二的人物了。

Ruchi Sanghvi:好,最后一个问题。很多人经常问我,“马克·扎克伯格私底下是个什么样的人”?这可能是因为我在 Facebook 工作过,但我一直试图避免回答别人这个问题。有时我会告诉他们,你是我在最困难时刻会依靠的最亲密朋友之一。而最让我感到有趣的是,尽管你越来越有名,但你却为我们这些朋友、同事和观众腾出了更多的时间。我想问你,有哪些对你来说很重要,但大多数人却不懂得珍视的事情

扎克伯格:我会说,在我人生的这个阶段,除了追求伟大成就之外,还有一个重要的方面,那就是与我真正喜欢的人一起实现这些伟大成就。有时候,我会因为喜欢某个人而想要参与一个项目。我愿意不遗余力地寻找与他们合作的机会,因为他们是值得尊敬的人。我想帮助他们,也想向他们学习。他们很有趣。这其中包含了许多不同的事情。当然,我的大部分精力仍然集中在 Meta 上。

一个真正让我感到有趣的事情是,我和普莉希拉之间的关系越来越深厚。我们结婚之后建立了家庭,同时也在共同运营 CZI。看到她的成长真的很酷,我们已经发展出一个庞大的组织。

当然,也有一些比较随意的事情,比如我想参与一个项目,目的是培育出世界上最优质的牛肉。至于为什么,我也不清楚,但我认为和一些很棒的人一起做这些事情真的很棒。我认为这些事情对我来说很重要,可能是因为公司已经变得如此庞大和成功,是的,我们需要继续做得好以保持整体的势头和进展。但这并不是因为达到某个估值或其他目标而激励我,而是因为我们正在构建的东西。

在我看来,这个阶段的重要部分是能够做一些伟大的事情,并建立起非常深厚的人际关系。当你年轻时,你可能还没有足够的阅历或时间来建立持续 20 年的友谊,而现在我们已经到了这个阶段,我已经拥有一些这样的友谊,这很棒,但我们还足够年轻,可以继续建立这些友谊

你们俩今天对我说了很多好话,而你们也是我最亲密的朋友之一。我对你们在 Facebook 早期所做的工作一直心存感激,因为如果没有这些努力,我们也不会走到今天。我认为那些有机会与你们共事并受到你们指导的人真的很幸运。这也是我愿意来参加这个活动的部分原因,因为我对你们正在做的事情充满信心,这也是世界上所需要的。你们现在做的 SPC 与其他不同的孵化器相比,拥有不同的理念和方向,而这正是我在这个人生阶段认为重要的东西。


7ee6b461fbdb298a455845a0f3e3c748.gif

大模型刷新一切,让我们有着诸多的迷茫,AI 这股热潮究竟会推着我们走向何方?面对时不时一夜变天,焦虑感油然而生,开发者怎么能够更快、更系统地拥抱大模型?《新程序员 007》以「大模型时代,开发者的成长指南」为核心,希望拨开层层迷雾,让开发者定下心地看到及拥抱未来。

读过本书的开发者这样感慨道:“让我惊喜的是,中国还有这种高质量、贴近开发者的杂志,我感到非常激动。最吸引我的是里面有很多人对 AI 的看法和经验和一些采访的内容,这些内容既真实又有价值。”

能学习到新知识、产生共鸣,解答久困于心的困惑,这是《新程序员》的核心价值。欢迎扫描下方二维码订阅纸书和电子书。

f24b9d1675af8431e60fd6083cc930fc.png

  • 10
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器学习模型机器
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值