Nvidia 和 Mistral 的新模型“Mistral-NeMo”将企业级 AI 引入台式电脑

Nvidia 和法国初创公司 Mistral AI 今天联合宣布发布一款新的语言模型，旨在将强大的 AI 功能直接引入企业台式电脑。该模型名为 Mistral-NeMo，拥有 120 亿个参数和 128,000 个令牌的广阔上下文窗口，使其成为寻求实施 AI 解决方案而无需大量云资源的企业的强大工具。

Nvidia 应用深度学习研究副总裁 Bryan Catanzaro 在最近接受 VentureBeat 采访时强调了该模型的可访问性和效率。他说：“我们正在推出一个与 Mistral 联合训练的模型。这是一个 120 亿参数的模型，我们在 Apache 2.0 下发布。我们对这个模型在许多任务中的准确性感到非常兴奋。”

Nvidia（GPU 制造和 AI 硬件的巨头）与 Mistral AI（欧洲 AI 领域的新星）之间的合作代表了 AI 行业在企业解决方案方法上的重大转变。通过专注于更紧凑但功能强大的模型，该合作旨在普及先进的 AI 能力。

小型模型如何改变游戏

Catanzaro 详细阐述了小型模型的优势。他说：“较小的模型更易于访问。它们更容易运行，商业模式可以不同，因为人们可以在自己的家用系统上运行它们。实际上，这个模型可以在许多人已经拥有的 RTX GPU 上运行。”

这一发展正值 AI 行业的关键时刻。虽然很多注意力都集中在像 OpenAI 的 GPT-4 这样拥有数百亿参数的大型模型上，但人们对能在企业硬件上本地运行的更高效模型的兴趣日益浓厚。这种转变是由对数据隐私的担忧、对更低延迟的需求以及对更具成本效益的 AI 解决方案的渴望所驱动的。

Mistral-NeMo 的 128,000 个令牌上下文窗口是一个突出的特点，允许该模型处理和理解比许多竞争对手更大的文本块。Catanzaro 说：“我们认为长上下文能力对很多应用都很重要。如果它们可以避免微调的麻烦，那将使它们的部署更简单。”

为什么上下文在 AI 中很重要

这个扩展的上下文窗口对于处理冗长文档、复杂分析或复杂编码任务的企业可能特别有价值。它有可能消除频繁刷新上下文的需要，从而产生更连贯和一致的输出。

该模型的效率和本地部署能力可能吸引在互联网连接有限的环境中运营或对数据隐私有严格要求的企业。然而，Catanzaro 澄清了该模型的预期用例。他说：“我更多地会想到笔记本电脑和台式电脑，而不是智能手机。”

这种定位表明，虽然 Mistral-NeMo 将 AI 带给了个体企业用户，但它尚未达到移动部署的程度。

行业分析师认为，此次发布可能会极大地扰乱 AI 软件市场。Mistral-NeMo 的引入代表了企业 AI 部署的潜在转变。通过提供可以在本地硬件上高效运行的模型，Nvidia 和 Mistral AI 正在解决许多企业在广泛采用 AI 时所面临的问题，例如数据隐私、延迟和与基于云的解决方案相关的高成本。

这一举措有可能使竞争环境更加公平，允许资源有限的小企业利用以前只有拥有大量 IT 预算的大公司才能使用的 AI 能力。然而，这一发展的真正影响将取决于该模型在实际应用中的性能以及围绕它发展的工具和支持生态系统。

该模型立即作为 NVIDIA NIM 推理微服务提供，不久的将来将提供可下载版本。它在 Apache 2.0 许可证下发布，允许商业使用，这可能会加速其在企业环境中的采用。

将智能带到每台台式电脑的竞赛

随着各行业的企业继续努力将 AI 融入其运营，像 Mistral-NeMo 这样的模型代表了朝着更高效、可部署的 AI 解决方案发展的日益增长的趋势。这是否会挑战大型基于云的模型的主导地位还有待观察，但它无疑为企业环境中的 AI 集成开辟了新的可能性。

Catanzaro 在采访结束时发表了前瞻性声明。他说：“我们相信，这个模型代表了朝着使 AI 对各种规模的企业更易访问和实用迈出的重要一步。这不仅关乎模型的能力，还在于将这种能力直接交到能够在日常运营中利用它推动创新和效率的人手中。”

随着 AI 领域的不断发展，Mistral-NeMo 的发布标志着在为企业提供更易访问、高效和强大的 AI 工具的旅程中的一个重要里程碑。它将如何影响更广泛的 AI 生态系统还有待观察，但有一点很清楚：将 AI 能力带给终端用户的竞赛正在升温，Nvidia 和 Mistral AI 刚刚在这个方向上迈出了大胆的一步。