干货｜如何用MongoDB Atlas和大语言模型，高效构建企业级AI应用？

MongoDB 数据平台

已于 2024-04-07 20:32:32 修改

阅读量3.4k

点赞数 30

分类专栏： AI应用 MongoDB Atlas 文章标签：人工智能 mongodb 语言模型 AI应用 LLM

于 2024-03-20 12:47:23 首次发布

本文链接：https://blog.csdn.net/MongoDBChina/article/details/136872715

版权

MongoDB Atlas 同时被 2 个专栏收录

12 篇文章 0 订阅

订阅专栏

AI应用

11 篇文章 0 订阅

订阅专栏

请添加图片描述

利用生成式 AI 强化应用程序为客户打造令人叹服、真正差异化的体验意味着将人工智能建立在事实的基础之上。这种事实来自于您的数据，更具体地说，来自于您最新的操作数据。

无论您是提供具有高级语义搜索的高度个性化体验，还是生成用户提示的内容和对话，MongoDB Atlas都可以统一操作、分析和向量搜索数据服务，以简化将大语言模型（LLM）和转换器模型的强大功能嵌入到您的应用程序中。

开发者每天都在构建下一代具有突破性和变革性的采用生成式 AI 技术的应用程序。商业 LLM 和开源 LLM 正在以惊人的速度发展。围绕它们构建的框架和工具数不胜数，创新也变得大众化了。然而，开发团队必须跨越鸿沟，将这些应用程序从原型转变为企业就绪。

首先，这些大型模型提供的答案可能不正确或信息依据不足，因为它们访问的数据过时了。解决答案信息依据不足的问题有两种方法：优化大型模型或为其提供长期记忆。但是，这样做会产生第二个障碍，在采取了正确的安全控制措施的情况下，以用户期望的规模和性能围绕有信息依据的 LLM 部署应用程序。

开发者需要使用具有灵活数据模型的数据平台，以适应不断变化的非结构化和结构化数据，以便为大型模型提供信息，而不会受限于僵化的模式。

虽然优化模型是一种方法，但在时间和计算资源方面成本过高。这意味着开发者需要能够将数据作为提示的上下文呈现给大型模型。他们需要为这些生成式模型提供长期记忆。

下面我们将讨论一些示例，说明如何使用各种 LLM 和生成式 AI 框架实现这一点。

查看我们的 AI 资源页面，详细了解有关使用 MongoDB 构建采用 AI 技术的应用。

开始使用 MongoDB Atlas和大语言模型的五个资源

MongoDB Atlas 可以无缝集成领先的生成式 AI 服务和系统，如超大规模服务提供商和开源 LLM 及框架。通过 Atlas 数据库和 Atlas Vector Search将文档和向量嵌入数据存储结合使用，开发者可以加速构建基于真实操作数据的生成式 AI 强化应用程序。

以下是如何使用热门的 LLM 框架和 MongoDB 的示例：

1.开始使用 Atlas Vector Search和 OpenAI 进行语义搜索

本教程将引导您完成使用 MongoDB Atlas 对示例电影数据集执行语义搜索的步骤。首先，您将设置 Atlas Trigger，以便在将新文档插入集群时调用 OpenAI API，从而将其转换为向量嵌入。然后，您将使用 Atlas Vector Search 执行向量搜索查询。甚至还有一个特殊的奖励部分：利用 HuggingFace 模型。阅读相应教程。

在这里插入图片描述

2.借助 Llamalndex 和 MongoDB，使用您的专有数据构建生成式 AI 强化聊天应用

LlamaIndex 提供的简单而灵活的接口可以连接 LLM 与外部数据。这篇由 LlamaIndex 和 MongoDB 联合撰写的博客详细介绍了为什么以及如何构建自己的聊天应用。博客中附带的 notebook 提供了有关如何使用英语语言查询来查询任何 PDF 文档的代码演练。阅读相应博客。
在这里插入图片描述

3.参阅相关文档，了解如何将 Atlas Vector Search 用作 LangChain 的向量存储

正如合作伙伴关系公告博客文章中所述，LangChain 和 MongoDB Atlas 实属天作之合，有机社区所表现出的热情证明了这一点，促成了 LangChain 中针对 MongoDB 的多次集成。除了现在支持 Atlas Vector Search 作为向量存储之外，还已经支持将 MongoDB 用作聊天日志历史记录。阅读文档：python、javascript。

在这里插入图片描述

4.使用 MindsDB AI 集合直接在 MongoDB Atlas 中生成预测

MindsDB 是一个开源机器学习平台，它将自动机器学习引入数据库中。在此博客中，您将使用 MindsDB AI 集合直接在 Atlas 中生成预测，这样您就能够将预测数据用作常规数据来消费使用，查询这些预测数据，并通过简化部署工作流程来加快开发速度。阅读相应博客。

在这里插入图片描述

5.通过 Atlas Triggers将 HuggingFace 转换器模型集成到 MongoDB Atlas 中

HuggingFace 是一个 AI 社区，可以轻松构建、训练和部署机器学习模型。利用 Atlas Triggers 以及 HuggingFace，您可以轻松地应对操作数据的变化，这些数据为您的模型提供了长期记忆。了解如何设置 Triggers 以自动预测 MongoDB 数据库中新文档的情感信息，并将其作为附加字段添加到您的文档中。请参阅 GitHub 存储库。
在这里插入图片描述