大模型开源组件，助力快速开发产品

1、FastGPT

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！

体验地址：https://cloud.fastgpt.in/

文档地址：https://doc.fastgpt.in/docs/

Github地址：https://github.com/labring/FastGPT

总结：丰富的工作流编排能力，提供对外开放的应用调用api和知识库api，优秀的RAG检索技术。模型信息配置在config.json中，无法在页面灵活配置模型，而且且必须安装one-api才能调用模型。如果即想要工作流编排又想要RAG能力，推荐使用FastGPT。

2、Dify

Dify 是一个易用的 LLMOps 平台，旨在让更多人可以创建可持续运营的原生 AI 应用。

访问地址：https://cloud.dify.ai/

Github地址：https://github.com/langgenius/dify

总结：强大的工作流编排能力，丰富的插件能力，提供对外开放的api，灵活丰富的模型管理能力，如果对RAG检索要求很高，那不建议使用Dify，或者将Dify和RagFlow结合使用。

3、One-API

OpenAI 接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key，仅单可执行文件，已打包好 Docker 镜像，一键部署，开箱即用.

体验地址：https://openai.justsong.cn/

Github地址：https://github.com/songquanpeng/one-api

4、RagFlow

RAGFlow[1] 是一款基于深度文档理解构建的开源 RAG（Retrieval-Augmented Generation）引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型（LLM）针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。

体验地址：https://demo.ragflow.io/login

文档地址：https://doc.fastgpt.in/docs/

Github地址：https://ragflow.io/docs/dev/

总结：灵活且相对丰富的模型管理配置，RagFlow是不存在工作流编排的，其专注于RAG检索功能。

5、DB-GPT

DB-GPT
通过集成多种技术如SMMF、Text2SQL优化等，简化大模型在数据库应用中的开发，支持数据处理、问答、RAG等功能，适用于数据3.0时代的高效应用构建。它强调隐私安全和模型管理，提供多种交互方式如数据库对话和Excel支持。

文档地址：https://www.yuque.com/eosphoros/dbgpt-docs/bex30nsv60ru0fmx

Github地址：https://github.com/eosphoros-ai/DB-GPT

6、Vanna

Vanna，是一款革命性的AI SQL智能体，可以将复杂的SQL查询简化为日常语义对话。在生成式AI的助力下，Vanna 让数据库查询变得前所未有的简单和直观。它是基于 OpenAI 和 Google 提供的大语言模型（LLM）。Vanna 通过预训练模型，结合你的数据库进行微调，可以快速帮你量身打造一个定制化的AI助手。

体验地址：

文档地址：https://vanna.ai/docs/

Github地址：https://github.com/vanna-ai/vanna