RAG检索增强生成只是起步，真正的智能问答=强化学习+大模型（各类型）， 实现智能调度，SELF-RAG（自反思）。

已于 2023-11-17 11:27:12 修改
阅读量1.2k 收藏 1
点赞数 4
分类专栏： 搜索推荐系统相关技术业务落地方案 文章标签： 人工智能 自然语言处理 智能问答 RAG检索增强生成 大语言模型 self-RAG 语义搜索
于 2023-11-17 10:37:48 首次发布
涉及博主原创类文章，未经博主许可不允许转载
本文链接：https://blog.csdn.net/sinat_39620217/article/details/134447123
版权
本文探讨了RAG（检索增强生成）在智能问答中的应用及其优势，指出其在处理私有数据和动态更新场景中的价值。同时，分析了RAG面临的挑战，如知识混淆、召回混淆等问题，并提出了优化方案，包括元数据过滤、全文处理、数值计算等单元建设。最后，提出将RAG与Agent结合，实现更智能的问答系统，并强调了成本考量与模块化的构建思路。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

RAG检索增强生成是近期几个大模型应用方向上 最难下笔的一个：

  • 一方面是因为技术方案仍在快速迭代；
  • 另一方面是市场对它的认知还存在一定偏差。

目前市场认为：chatBI（让大模型做数据查询和分析）很有用但是有难度；Agent（让大模型自助规划任务实现用户复杂的需求）虽然很酷炫，但是落地的应用少，不够成熟。

而对于 RAG，企业都很明确它的价值，并且技术实现上，一顿组合拳疯狂输出（文本切割 + 向量数据库 + 大模型）就能解决问题，是企业落地的不二之选。

事实真的是这样吗？这篇主要来记录一下我们在 RAG 方向有限的场景中遇到的问题及思考过程，抛砖引玉。

1.RAG检索增强 快速解读

全称 Retrieval-Augmented Generation，检索增强生成。

举个例子，比如我作为员工，直接问大模型：

提问：『 我们公司几点下班？』

大模型在没有见过我们公司《[员工手册])》的情况下（事实上，企业私有数据

了解本专栏 订阅专栏 解锁全文
RAG（Retrieval Augmented Generation）检索增强生成详解
互联网架构师笔记
03-29 702
RAG（Retrieval Augmented Generation，检索增强生成）是一种结合信息检索（Retrieval）和文本生成（Generation）的 AI 技术框架，旨在提升大模型（如 LLM）的知识能力和准确性。与纯粹的生成式模型（如 GPT-4）不同，RAG 通过实时检索外部知识库的信息，增强模型的回答能力，减少幻觉（Hallucination）问题。
【大模型应用开发 动手做AI Agent】LlamaIndex和基于RAG的AI开发
AI天才研究院
05-27 1223
随着人工智能技术的飞速发展,大语言模型(Large Language Models, LLMs)在各个领域得到了广泛应用。LLMs通过从大规模文本语料中学习,可以生成连贯、自然的文本,完成复杂的自然语言处理任务。然而,LLMs仍然存在知识储备有限、推理能力不足等问题。为了进一步增强LLMs的能力,学术界和工业界开始探索LLMs与其他技术的结合,比如知识图谱、检索增强生成(Retrieval-Augmented Generation, RAG)等。
RAG：未来智能问答系统的引擎与创新
chenwr_727的博客
09-12 660
随着人工智能的发展，智能问答系统正逐渐成为许多应用场景中的核心工具。从搜索引擎、虚拟助手，到医疗、法律、金融等领域的专业咨询服务，问答系统承担着为用户提供快速、准确信息的任务。而，作为一种结合信息检索与文本生成的新兴技术，正在成为这一领域的核心引擎。它不仅克服了传统问答系统的许多局限，还为未来智能问答的创新打开了大门。本文将探讨 RAG 在智能问答系统中的优势、当前面临的挑战以及未来的发展前景。
一文带你了解RAG(检索增强生成) | 概念理论介绍+ 代码实操
2401_85375151的博客
07-29 2853
RAG（Retrieval Augmented Generation, 检索增强生成）是一种技术框架，其核心在于当 LLM 面对解答问题或创作文本任务时，首先会在大规模文档库中搜索并筛选出与任务紧密相关的素材，继而依据这些素材精准指导后续的回答生成或文本构造过程，旨在通过此种方式提升模型输出的准确性和可靠性。RAG 技术架构图介绍：富文本 主要存储于 txt 文件中，因为排版比较整洁，所以获取方式比较简单实战技巧：【版面分析——富文本txt读取】
一文读懂：大模型RAG（检索增强生成）
热门推荐
m0_59164304的博客
04-11 3万+
本文概述 RAG 的核心算法，并举例说明其中的一些方法。RAG融合是一个强大的功能，能够提高RAG应用的语义搜索效率。通过使用语言模型生成多个查询并对搜索结果进行重新排序，RAG融合可以呈现更丰富多样的内容，并提供了一个额外的层次，用于调整应用。此外，RAG融合还可以实现自动纠正、节省成本以及增加内容多样性。但是，需要注意一些权衡，比如潜在的延迟问题、自动纠正的挑战以及成本影响。对于依赖常见概念但可能出现内部行话或重叠词汇的应用来说，RAG融合尤其有用。
一文读懂RAG（检索增强生成）
2401_85375298的博客
08-09 1773
近阶段，笔者落地了一个蛮深刻的项目，该项目通过RAG技术成功解决了一些问题。因此计划通过两篇文章跟大家分享有关RAG结合ToB Agent应用的探索与实践。本篇文章，主要关于笔者对RAG（围绕Navie RAG）的些许理解。
高级检索增强生成技术(RAG)全面指南：原理、分块、编码、索引、微调、Agent、展望
人工智能讲师分享前沿技术
04-27 6437
如果我们使用多个源来生成答案，要么是由于初始查询的复杂性（我们必须执行多个子查询，然后将检索到的上下文合并到一个答案中），要么是因为我们在各种文档中找到了单个查询的相关上下文，问题是我们是否能够准确地回溯我们的来源。显然，尽管OpenAI是LLM提供商的市场领导者，但仍有许多替代方案，例如Anthropic的Claude、最近流行的较小但功能强大的模型，例如Mixtral形式的Mistral、Microsoft的Phi-2以及许多开源选项，例如Llama2、OpenLLaMA、Falcon。
构建 RAG 系统日志与反馈平台：实现检索命中率追踪 × 模型输出打分 × 多版本对比闭环
最新发布
努力分享一些人工智能相关的知识干货！
04-05 1014
在国产大模型落地 RAG 系统的过程中，模型虽能“跑起来”，但如何“优化到位、持续进化”，才是真正的难点。 本文从工程实战出发，系统拆解了一个可复用的 RAG 闭环反馈平台：包括请求日志追踪、Retriever 命中率评估、LLM 输出打分、用户反馈采集，以及多版本模型对比系统。 配套示例代码 × 日志结构 × Streamlit 可视化模板，让你的 RAG 系统不仅能跑，还能看、能评、能调、能进化。
大模型——最全梳理 一文搞懂RAG技术的5种范式！
03-26 303
高级 RAG 引入了具体的改进措施，以克服 Naive RAG 的局限性。为了提高检索质量，它采用了检索前和检索后策略。为了解决索引问题，高级 RAG 通过使用滑动窗口方法、细粒度分割和元数据的整合，改进了索引技术。此外，它还采用了多种优化方法来简化检索过程。模块化 RAG 架构超越了前两种 RAG 范式，具有更强的适应性和多功能性。它采用了多种策略来改进其组件，例如为相似性搜索添加搜索模块，以及通过微调完善检索器。为应对特定挑战，还引入了重组 RAG 模块和重排 RAG 管道等创新方法。
LLM RAG（检索增强生成）领域的高级技术汇总（一）
我是赛博AI Lewis
03-23 610
通过LLM判断查询类型（如事实类 vs 创意类），动态选择检索库或跳过RAG直接生成。：构建“摘要-细节”多级索引，先通过摘要筛选相关文档，再进行细粒度检索，减少计算开销。：使用LLM将用户问题重写为多版本（如关键词提取、逆向问题生成），覆盖更广检索范围。：结合蒙特卡洛树搜索（MCTS）与RAG，通过奖励模型评估检索路径，避免局部最优。：根据语义边界（如段落、代码块）分割文本，避免机械式固定长度分块，提升嵌入质量。：将图像、音频等通过多模态模型（如CLIP）编码为向量，支持跨模态检索。
RAG(检索增强生成)
LIN2020LOVEDA的博客
08-14 478
RAG(检索增强生成)
检索增强生成（RAG）技术
人工智能讲师分享前沿技术
04-23 1412
随着大型语言模型（LLMs）在自然语言处理（NLP）领域的显著进步，它们在多个评估基准测试中显示出超越人类水平的语言和知识掌握能力。然而，这些模型在实际应用中也面临着一系列挑战，如制造事实、知识更新缓慢和答案缺乏透明度等问题。为了解决这些问题，研究者提出了检索增强生成（Retrieval-Augmented Generation，RAG）技术，它通过从外部知识库检索相关信息来辅助大型语言模型回答问题，已经被证明能显著提高回答的准确性。
深入浅出RAG（检索增强生成）：概念解析与代码实践全指南
h1453586413的博客
08-26 743
RAG（Retrieval Augmented Generation, 检索增强生成）是一种技术框架，其核心在于当 LLM 面对解答问题或创作文本任务时，首先会在大规模文档库中搜索并筛选出与任务紧密相关的素材，继而依据这些素材精准指导后续的回答生成或文本构造过程，旨在通过此种方式提升模型输出的准确性和可靠性。RAG 技术架构图介绍：富文本 主要存储于 txt 文件中，因为排版比较整洁，所以获取方式比较简单实战技巧：【版面分析——富文本txt读取】
一文带你了解大模型的RAG(检索增强生成) | 概念理论介绍+ 代码实操（含源码）
机器学习社区
12-30 2万+
RAG的全称是Retrieval-Augmented Generation，中文翻译为检索增强生成。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。本文介绍了 RAG 的概念及其背后的一些理论，本文通过Python、LangChain将其实现，在此过程中使用了 OpenAI的ChatGPT接口（可以自己搭建chatGLM3）、Weaviate矢量数据库（可以自己搭建Milvus ）、OpenAI 嵌入模型实现了 RAG 管道。
不用苦苦寻觅！这是大模型检索增强生成（RAG）最全综述！
机器学习社区
02-03 1万+
是什么：RAG 是一种通过检索外部知识库来获得额外语料，并使用 ICL（In-Context-Learning，上下文学习）来改进 LLM 生成效果的范式。为什么：LLM 受训练语料的限制，无法感知最新的内容，比如 LLM 训练后的新闻；此外，LLM 也容易产生幻觉，生成不正确的内容。如何做：当用户发起一个生成请求时，首先基于用户的 prompt 来检索相关信息，然后这些信息会被组合到 prompt 中，为生成过程提供额外的上下文，最后将组合后的 prompt 输入 LLM 生成结果。
RAG检索增强技术在知识库智能检索场景下的应用实践
人工智能讲师分享前沿技术
05-08 1306
知识检索增强的基本概述1.1、知识检索增强技术提出的背景知识检索增强技术的提出是为了解决当前基于LLM的知识检索存在的种种问题，并满足实际应用对知识检索系统的新需求。1.2、RAG 检索增强生成同时，RAG模型也为我们提供了一种全新的思路，能够更好地结合信息检索和文本生成的能力，为各种应用场景提供更加智能、高效的解决方案。随着人工智能技术的不断发展，RAG模型有望在各个领域发挥越来越重要的作用，成为推动智能化应用发展的重要技术手段之一。1.3、外挂知识库 vs 知识参数化在大模型的优化方式中，外挂知识库和知
可结合cursor开发的支持本地大模型和mcp的rag架构
03-30
<think>好的，我现在需要回答用户关于“可结合Cursor开发的支持本地大模型和MCP的RAG架构”的问题。首先，我得理解每个术语的含义以及它们之间的关系。 首先，RAG架构是检索增强生成（Retrieval-Augmented Generation），结合了信息检索和生成模型，用来提升生成内容的准确性和相关性。本地大模型应该指的是在本地部署的大型语言模型（LLM），比如Llama、GPT-NeoX等，这样可以保证数据隐私和减少延迟。MCP可能是指模型控制平台（Model Control Platform）或者某种管理协调平台，需要确认缩写。假设MCP在这里是模型协调平台，负责管理多个模型或组件的协作。 接下来，Cursor是一个开发工具，可能类似于VS Code，支持代码编写、调试等功能。用户希望结合Cursor开发一个支持本地大模型和MCP的RAG架构。需要思考如何将这些元素整合在一起。 首先，架构的组成部分应该包括： 1. 本地大模型：负责生成回答，需要处理中文，可能需要选择适合的中文预训练模型。 2. 检索系统：用于从本地或外部知识库中检索相关信息，可能需要使用向量数据库如FAISS、Annoy等。 3. MCP：协调检索和生成过程，可能处理请求路由、结果整合等。 4. Cursor集成：作为开发环境，可能需要插件或扩展来支持RAG工作流的开发和调试。 然后，考虑各部分如何协作。用户提问后，系统先通过检索模块从知识库中找到相关文档或段落，将检索结果和问题一起输入本地大模型生成回答。MCP可能在这里管理检索策略、模型调用、结果后处理等。 需要注意的点包括： - 本地部署的数据隐私和安全性。 - 检索效率，尤其是大规模知识库时的响应时间。 - 模型与检索结果的结合方式，比如如何将检索到的信息有效融入生成过程。 - Cursor的具体支持方式，是否通过API、插件或自定义脚本。 可能的挑战： - 本地大模型的资源需求，如显存、计算能力。 - 中文处理的支持，包括分词、嵌入模型的选择。 - MCP的设计复杂度，确保各组件高效通信。 需要验证的信息： - MCP的具体定义，是否有其他可能的全称。 - Cursor是否提供特定的API或开发工具包，方便集成本地模型和检索系统。 - 是否有现有的开源项目或案例参考。 总结步骤： 1. 确定各组件技术选型：如本地大模型选Chinese-Alpaca，检索用FAISS，MCP用自定义的Flask/Django服务。 2. 构建知识库：将文档处理成向量存储，可能需要BERT等模型生成嵌入。 3. 开发MCP逻辑：处理用户查询，调用检索，整合结果到生成模型。 4. 集成到Cursor：通过插件或外部工具调用本地服务，实现开发环境中的RAG应用。 可能遗漏的点是具体如何将Cursor集成进来，是否需要其特定的功能或接口，可能需要查阅Cursor的文档，看是否支持扩展开发。另外，确保整个流程的中文支持，包括检索和生成阶段。</think>以下介绍结合Cursor开发、支持本地大模型和MCP的RAG架构实现思路，分三个层级展开： $$ \text{RAG架构} = \text{检索系统} \oplus \text{生成系统} \oplus \text{控制平台} $$ --- ### 一、基础组件构成 1. **本地大模型层** - 选用**Llama2-13B**、**ChatGLM3**等支持本地部署的中文优化模型 - 硬件要求：至少24GB显存（可通过量化降低需求） - 关键技术：LoRA微调适配垂直领域任务 2. **检索增强层** - 向量数据库：FAISS/Pinecone（本地部署版） - 文档处理流水线： $$ \text{PDF/Word} \Rightarrow \text{Unstructured文本提取} \Rightarrow \text{BERT向量化} \Rightarrow \text{索引构建} $$ 3. **MCP控制层** - 实现功能路由、流量控制、缓存管理 - 关键接口： ```python class MCPController: def route_query(self, query: str) -> Dict: # 执行检索决策、模型调度 ``` --- ### 二、Cursor开发集成方案 1. **插件扩展开发** - 通过Cursor的**插件API**接入本地模型服务 - 典型交互流程： ``` 用户输入问题 → Cursor插件调用本地RAG服务 → 返回增强后的生成结果 ``` 2. **调试工具链配置** - 本地模型热加载：修改模型参数无需重启服务 - 检索过程可视化：展示top-k检索段落与相关性分数 3. **Prompt工程支持** - 内置模板库管理： ```markdown 【知识增强模板】 {检索结果} 基于以上背景，请用中文回答：{用户问题} ``` --- ### 三、性能优化策略 1. **混合检索模式** $$ \text{相似度检索} + \text{关键词检索} \Rightarrow \text{Ensemble Ranking} $$ 2. **分层缓存机制** - 一级缓存：高频问答对（LRU策略） - 二级缓存：语义相似问题聚类 3. **量化部署方案** - 模型权重：8-bit量化 + 梯度检查点 - 检索加速：PCA降维（768d → 128d） --- ### 四、典型应用场景 1. **代码知识助手** - 检索公司代码库 + 生成API使用示例 2. **技术文档分析** - 跨文档关联分析（需求文档 ↔ 设计文档） 3. **安全合规审查** - 实时检索法规库 + 生成合规建议 --- **实施建议**：先从单文档QA测试开始，逐步扩展至万级文档库。关注中文分词质量对检索的影响，建议使用**jieba**+领域词典优化分词效果。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

汀、人工智能

十分感谢您的支持

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值