Meta为什么要开源AI基础软件__笔记

在Meta 第四季度及2023全年财报电话会议上，扎克伯格宣称，通用智能将成为Meta产品开发的核心主题。

他说，展望未来，Meta的重大目标是开发市场上最受欢迎、最先进的 AI 产品和服务。要实现这些下一代服务，必须构建出真正的通用智能，必须让模型具备推理、规划、编程、记忆等多种认知能力。他说，FAIR（Facebook AI Research） 已经致力于通用智能研究十余年，而现在，通用智能将成为Meta产品开发的核心主题。为此，Meta主要采取了以下策略：

1. 建设世界级的计算基础架构

据他透露，到本年度末，Meta的计算能力将达到约 350,000 个 H100 GPU，加上其他 GPU，总计能力相当于约 600,000 个 H100。未来，Meta还将投入更多的更多的计算资源。

2. 开源软件基础设施

扎克伯格说，长期以来，Meta的策略是构建并开放源代码通用基础设施，同时保留其具体产品实现为专有技术。在 AI 领域，这包括了Llama 模型，例如目前正在训练中、表现出色的 Llama 3，以及Meta开发的行业标准工具，比如 PyTorch。这种开源策略已经激发了整个行业的诸多创新。

他认为，开源为Meta带来了诸多好处。“开源不仅提升了我们的模型质量，并且，由于将模型转换为产品还需要大量工作，并且考虑到其他开源模型也会存在，我们认为成为开源领域的领导者主要是有利的，并且这几乎不会对我们的产品差异化产生太大影响。”

具体来说，开源带来了几个战略好处：

“首先，开源软件通常更加安全可靠，并且因为社区的持续反馈、审查和开发，更加高效。这一点非常重要，因为安全是 AI 领域最关键的议题之一。效率的提高和计算成本的降低对包括我们在内的所有人都有好处。”

“其次，开源软件经常成为行业标准，当企业开始基于我们的技术栈建立标准时，这使得将新的创新融入我们的产品变得更加容易。这种微妙的优势，能够迅速学习和改进，是巨大的竞争优势，而成为行业标准正是这一能力的关键。”

“第三，开源在开发者和研究人员中极受欢迎。人们渴望参与到将被广泛采纳的开放系统中去，这有助于Meta吸引顶尖人才，这对于在任何新兴技术领域保持领先地位至关重要。再者，我们通常具有独特的数据和构建特定的产品集成，因此，将 Llama 等基础设施开源并不会削弱我们的核心竞争力。”

3. 采取长远发展的视角

扎克伯格说，“在开发当前的产品和模型的同时，我们也在为未来几年甚至更久的 Llama 5、6、7 的研究布局，致力于打造完整的通用智能。重要的是要布局跨年度的投资和研究项目组合。同时，明确的产品目标，如未来的 Llama 模型，对于聚焦我们的工作至关重要。”

4. 从产品中获取的数据及反馈中学习

他认为，当提到数据时，人们往往想到的是最初用于训练模型的数据集。“然而，比起初始的训练数据集，更关键的是建立起与数亿用户互动的 AI 服务的有效反馈机制。正是这种反馈，特别是在最近几年我们不得不根据新规定重新设计系统时，帮助我们快速提升了我们的 AI 系统，尤其是在 Reels 和广告方面。”

此外，扎克伯格还提到元宇宙。他声称AI 和元宇宙是Meta长期愿景的两个重点领域。尽管近年来AI 领域发展迅速，但他依然认为，下一代的 AR、MR 和 VR 计算平台将提供真实的“在场感”，这将成为未来社交体验乃至几乎所有其他领域的基础。

资料来源：

马克·扎克伯格：Meta 为什么要开源 AI|开源软件|人工智能|meta_网易订阅 (163.com)

该文转载自宝玉老师的个人博客(微博@宝玉xp )，链接https://baoyu.io/translations/llm/coding-on-copilot-2024-developer-research