2025 年的 RAG 之推理篇

已于 2025-03-03 14:55:00 修改
阅读量1.2k 收藏 28
点赞数 26
文章标签： javascript 前端 react.js
于 2025-03-03 14:52:06 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/datageek/article/details/145988347
版权

DeepSeek R1 在 2025 年初引发的震撼，让我们过去对于 LLM 关于推理和决策的预测时间点提早了大半年。如何让 LLM 具备更好的推理能力已经是 LLM 最热的研究方向之一。那么伴随着 LLM 的推理，RAG 需要做哪些调整？ 这正是我们在当前写下本文的主要动机。

中文的推理对应两个不同的英文词汇，一个是 Inference，对应的概念是 Training（训练），另一个是 Reasoning，指对已知信息的演绎和综合，推导出新的知识和结论的过程。我们今天所说的推理，毫无疑问是指后者，因为它是真正让 LLM 及其配套解锁更大价值的源动力。推理并不是 R1 才引入的，LLM 本身的推理，在 2024 年的 Agent 上已经得到广泛使用。流行的 Agent 框架中，普遍涵盖四大模块 Plan、Memory、Action、Tool，以及几个设计模式，其中最知名和容易实现的就是所谓 ReAct。那么这类基于过去的 LLM 形成的推理，跟 R1 所带来的推理，在能力上有什么区别呢？ 答案就在 R1 引入的思考链或者推理链。简单总结一下，推理的实现有如下技术流派：

  1. 利用提示词，实现 Agent 框架，例如基本的 ReAct。LLM 其实是具备推理能力的，哪怕没有 R1，但 LLM 需要跟随用户的指令。ReAct 的含义就是直接利用 LLM 进行 Reasoning + Action，其中 Reasoning 阶段利用 LLM 生成分析步骤，解释任务上下文或状态，给下一步行动提供逻辑依据。 Action 则依据 Reasoning 结果生成工具调用请求，像查搜索引擎、调用 API、数据库检索等，把推理变成行动。Reasoning and Action 每一步都是基于前一步的观察结果来决定的，这是一个逐步的、迭代的过程。当用户输入任务后，上下文和样本输入到 LLM 中，LLM 会调用目标工具，产生想法、行动和观察。ReAct 的每一步都依赖于前一步的输出，这意味着如果前一步出现问题，后续步骤可能会受到影响。ReAct 的执行过程是线性的，每一步都紧密依赖于前一步的结果。 Function Call 被用来解决和 ReAct 类似的问题，只是它要求 LLM 在训练的时候包含 Function Call 相关内容，对模型有一定要求。ReAct 其实是一种方法，由于在很多 Agent 框架中，对于 RAG 的强调不足，因此并没有发挥出 ReAct 的威力，导致 Agent 在实际中并没有带来更多的价值，而只是停留在基本的任务规划，这并没有充分发挥 LLM 的价值。因此，在 2024 年 Claude 的博文中【1】，Agent 实际上更多场景反而不如人工界定的工作流有价值。

  2. 改进模型本身，这就是 R1 的路线。R1 已经证明了通过强化学习训练鼓励模型合成 CoT 推理轨迹并从中学习所带来的价值。CoT 可以显著提高 LLM 的计算能力，而计算能力是推理的基础。CoT通过将一个复杂问题分解为多个中间步骤，增加了模型进行计算和信息处理的步骤数。可以理解为，CoT 增加了模型进行串行计算的机会，从而提高了整体的计算能力。更长的 CoT 链条允许模型在每一个步骤进行更加惊喜的推理，逐步逼近正确答案。

  3. 对模型结构本身进行扩展，例如 RAG，添加记忆模块，并借助于 Agent 机制。这个流派，跟路线一非常接近，区别主要在于是否把 RAG 放到了一个很重要的地步。RAG 代表着数据基座，只有基于数据来制定思考和推理计划，才能更加有针对性地进行提问和回答，避免路线一单纯依赖 LLM 和简单工具无法解锁高级场景的地步。 根据参考文献【2】的描述，推理本质上是一种在求解空间中进行搜索的过程。在 RAG 层面体现推理的一个重要手段是结合启发式搜索和增量微调。 例如 ReAct，由 LLM 把问题分解为系列逻辑子问题。但这种分解具备局限性，基于ReAct 模式容易陷入局部最优导致推理能力较弱，这是因为 ReAct 每一步的选择都依赖于局部信息，一旦选择了错误的搜索路径，后续步骤很难调整。因此一种思路是引入蒙特卡洛树搜索 MCTS 作为启发式搜索，通过奖励模型或者奖励函数评估搜索路径的质量，解决陷入局部最优的问题，例如参考文献【3】和参考文献【4】，都试图结合 RAG 和 MCTS 提供类似 o1 的推理能力，所不同之处在于，前者借助于奖励函数，而后者则借助于奖励模型，因此引入了对模型的增量微调。MCTS 的计算量巨大，它通过平衡探索和利用，在不确定的搜索链路上寻找最优路径，并且它还需要确定的奖励函数或者奖励模型，因此，在工程实现上，比较难以提供一个通用的解决方案，在一些垂直场景中，RAG + MCTS 的组合开始会有一些案例出现，例如已经出现通过准备足够的自然语言和 SQL 的映射作为 RAG 知识库，并设计定制的奖励规则，从而结合 MCTS 提供不需要微调 LLM 的 Text2SQL 方案。

RAGFlow 的最新版本，只关于路线三，且只关注如何提供通用方案，如何在基本 RAG 基础之上，进一步解锁推理功能，让 RAG 可以在用户自有数据上，提供自己的 R1 或者 o1。因此，采用启发式搜索和增量微调，以强化学习为基座的系列手段，并不在当前 RAGFlow 的能力规划——不过这仅仅代表在 2025 年春季的演进路线。在对基于此考虑的各路工业和学术的路线做一个总结和整理之前，我们先回答一个问题：是否基本的 RAG 直接接入了 R1 或者 o1，就可以具备推理能力了？——当然不是这么简单，固然基于内部数据提供的素材，利用 R1 或者 o1 可以直接生成推理链，进而产生更好的答案，但有一个问题不容忽视，就是这个答案的思考过程并非 R1 或者 o1 基于 RAG 返回数据，而仍然是来自模型本身的思考 —— 打一个比方，这就是用户提问，搜索素材，然后思考。那么根据这些素材思考的过程是否充分，就是个很大的疑问，因为推理模型只能根据这些素材进行思考。

下边进行总结和整理。

首先一个工作来自于参考文献【5】O1 Embedder，它试图通过训练得到一个具备推理能力的 Embedding 模型，确保同时生成高质量思考内容和精准检索的能力。具体做法，是通过准备包含查询、用 LLM 生成的思考内容、以及相关的文档组成的数据集来训练 Embedding 模型，该模型，给定文本，可以返回 Embedding，也可能返回思考内容。 因此这不是一个普通的 Embedding 模型，而是一个既包含 Embedding，也包含 Decoder 结构的文本生成组件。必须承认这种探索是有意义的，但推理能力本身如果脱离了 LLM ，可以说是放弃了整片森林。

下一个工作叫 Search o1（参考文献【6】），这个名字一听，就是专门在 RAG 基础之上提供推理能力的。Search o1 的工作流程包含 2 条主线： 一条是推理链，另一条叫 Reason-in-Documents， 两者是协同工作的。其中推理链是推理模型生成的，具体步骤如下：

  1. 初始化推理链：通过对问题理解和分解，来提供问题的背景和推理的总体要求，来提出具体需要解决的问题。

  2. 逐步生成推理步骤：

    1. 分解问题：把复杂问题分解为多个小问题或者推理步骤。

    2. 逻辑推理：基于已知信息（模型的内部知识和已经检索到的知识）逐步生成推理步骤。

    3. 生成推理序列：每一步推理都生成一个逻辑上连贯的句子或者段落，逐步推进问题的解决。

  3. 检测知识缺口：在推理过程中，模型可能会遇到知识不足的情况，例如：不确定某个概念的定义，不清楚某个过程的具体细节，需要最新的信息来推理等。此时，模型会生成一个检索查询。

  4. 根据 3 生成的检索查询，来触发外部检索。

  5. 根据外部知识检索的结果进行凝练，把知识注入到推理链，继续推理。

Reason-in-Documents ，主要目的是解决在 RAG 推理中直接使用检索到的文档可能导致的问题，例如冗余信息过多，干扰推理连贯性，它独立于主推理链运行，对检索到的文档进行深度分析和精炼，提取和当前推理步骤相关的有用信息。Search o1 的工作很完整，可以说是个纯工程性的学术工作。它的工作流程如下图所示，相比 RAG 直接套 R1 的做法，Search o1 最大的不同就在于它引入了迭代，通过迭代推理来反复修正得到高质量的问题，才能找到高质量的答案。但这里边有2个问题：

  1. 如何决定当前的思考是高质量的。

  2. 如何决定当前的迭代是可以终止的。

这2个问题很难解决，或者说，其实没有解决。但这不代表这种工程式的工作不 work。

下边一个工作是来自微软的 PIKE-RAG （参考文献【7】），它同样依赖 LLM 对用户的问题进行思考和任务分解，产生成多个子问题。所不同的是，它依赖 GraphRAG 来精炼，具体做法是在知识图谱上对多个子问题进行搜索，然后依据多个子问题的答案汇总得到多跳回答的结果。PIKE-RAG 特点是知识感知的任务分解，也就是任务分解过程会考虑知识库的内容，确保分解的问题能有效引导检索和推理过程。如果知识库中存在特定知识结构，任务分解会生成跟这些结构匹配的原子问题。具体的，PIKE-RAG 通过迭代的方式构建推理链，每次迭代中，系统会根据当前的子问题检索知识片段，并根据检索到的知识更新推理链。每次迭代，系统会从生成的原子问题中选择最相关的一个，并检索对应的知识片段，这些片段被逐步积累，形成推理链。当系统认为已经积累了足够的知识片段，或者进一步分解不再需要时，推理链构造会终止。PIKE-RAG 跟 Search o1 十分接近，都是工程性工作的代表。

下边来看一个叫做 Agentic Reasoning 的框架（参考文献【8】），论文标题，就可以看出，是利用 Agent 框架来实现 Deep Research。Agentic Reasoning 的核心思想是让 LLM 在推理过程中像人类一样动态调用外部工具获取信息、执行计算和规划思路。具体来说，推理模型在处理问题时，会根据当前的推理上下文，判断是否需要调用外部工具，生成相应请求。Agentic Reasoning框架包含 3 个内置 Agent：

  1. 思维导图 Agent：推理模型在生成推理链的时候，思维导图 Agent 会将推理链中的实体和逻辑关系提取出来，构建一个动态更新的知识图谱。当推理模型需要澄清逻辑关系或查询特定信息时，思维导图 Agent 通过知识图谱检索相关信息，帮助模型推理。

  2. Web Search Agent：推理模型在推理过程中，如果需要来自 Web Search 的信息，会生成一个查询请求，Web Search Agent 收到该请求后，会调用 Web Search API 检索内容，结果被整合到推理链中。

  3. Coding Agent：它主要用来生成代码。推理模型如果需要执行计算任务，Coding Agent 会根据提示词生成 Python 代码，并执行代码，将结果以自然语言形式返回并整合到推理链中。

因此，可以看到 Agentic Reasoning 跟 Search o1基本也是同类，只是增加了 Coding Agent 可以执行一些计算任务的思考。

最新一个工作 LevelRAG （参考文献【9】），跟以上几个工作也基本类似，只是称呼不同：执行思考和问题分解的被称作 High-Level Searcher，执行具体搜索的被称作 Low-Level Searcher。放上论文的配图，看起来很好理解，就不多介绍了。

来自浙大和阿里通义的 OmniThink（参考文献【10】），同样是一个 Deep Research 类的工作，不过它并非基于推理的问答系统，而是基于推理的报告生成：旨在通过模拟人的思考过程，以 RAG 为基座生成高质量的长文本内容。它的工作过程分成3个阶段：

  1. 通过迭代的扩展和反思，构建信息树和概念池。前者是一个层次化的知识表示，用来组织和存储与写作主题相关的所有搜索到的信息。后者是一个动态更新的知识集合，用来存储 OmniThink 对写作主题当前的理解。它包含的内容是从信息树当中提取的核心观点，以及通过思考过程得到的见解。

  2. 基于概念池生成文章大纲。

  3. 根据大纲生成文章内容，并通过语义相似性检索相关信息，最终得到完整文章。

从输入主题开始，OmniThink 通过Web搜索引擎（如Bing或Google）检索与主题相关的初始信息。这些信息用来构建信息树的根节点，形成初始的概念池。所谓概念池是对主题的逐步理解，用来指导后续的扩展和反思过程。接下来，OmniThink 分析信息树的所有叶子节点，判断它们是否需要进一步扩展。对于需要扩展的叶子节点，OmniThink基于当前的概念池生成子节点，每个子节点代表当前节点的一个具体方面或者子主题，然后为每个子节点检索相关信息，并将其添加到信息树的相应位置。反思阶段会对新检索到的所有叶子节点的信息进行分析、过滤和综合，提取核心观点，这些核心观点倍整合到当前的概念池中，用来指导下一步的扩展过程。 以上是一个迭代的过程，直到满足以下条件之一：获取的信息足够丰富，可以用于文章生成；达到预设的最大检索深度。

至此可以看出，从 Search o1 开始的这些工作都是纯工程实现，没有引入任何算法和模型上的工作。它们的核心都是以 LLM 和迭代为基座，不断生成合适的问题或主题。它们都面临一些问题：推理链的质量如何评估；迭代式反思如何终止。

RAG-Gym（参考文献【11】），看名字就跟强化学习有着莫大的关系，它的核心思想是把问答任务建模为一个嵌套的 MDP 马尔可夫决策过程，外层 MDP 控制和检索环境的交互，内层 MDP 控制 LLM 的 Token 生成，外层 MDP 的奖励模型基于最终预测的正确性。RAG-Gym 是真正基于强化学习的 Agent ，采用监督微调等方式来训练 Agent，奖励模型训练的目的是让 Agent 知道哪些查询和推理是高质量的，从而能够引导 Agent 做出更好的决策。训练数据的收集，是通过收集智能体的决策轨迹，然后标注其中的高质量数据得到的。因此，RAG-Gym 是一种可以解决以上问题的工作：通过强化学习来评估质量，并终止迭代。同类的工作还有 DeepRAG （参考文献【12】），它也把基于 RAG 的推理建模为 MDP 马尔可夫决策过程，通过迭代分解查询，动态决定每一步是检索外部知识还是依赖参数进行推理。DeepRAG 专门解决上述推理工作的核心痛点：

  1. 子任务拆分不合理：有的问题不需要额外信息，但系统仍然盲目搜索，引入干扰。

  2. 缺乏决策机制：在什么情况下需要检索，没有智能判断的能力。

不过 DeepRAG 并没有直接引入强化学习，而是采用模仿学习搭配微调，来帮助模型更好理解其知识边界。

不论是 RAG-Gym 还是 DeepRAG， 都依赖 LLM 的监督微调，因此落地实现并不容易，更多代表对解决推理所面临痛点的一种探索。因此，在 RAGFlow 已经发布的 0.17 版本中，还是选择了工程更友好的方式来实现。具体做法中，RAGFlow 结合了 Search o1，PIKE RAG，Agentic Reasoning，LevelRAG 等工作的长处，是一个开源的 Deep Research 类工作的复现：

  1. 迭代式生成推理链。

  2. 每步推理链，都会产生若干子问题，这些子问题，会触发搜索请求。

  3. 搜索的内容，包含内部数据，也可以通过用户提供的 API Key，直接调用 Web 搜索。这在很多场景是有必要的，因为企业内部数据，往往对很多通用知识的描述是不足的，可以允许用户选择性调用 Web 搜索，来补充问题潜在的上下文常识。

  4. 搜索的内容，还可以包含知识图谱。事实上，GraphRAG 跟推理是非常有效的搭档以及合作伙伴：在 RAGFlow 的 GraphRAG 实现中，不仅仅构造了知识图谱，还针对原文的每个 Chunk ，通过调用 LLM 产生了该 Chunk 可能提出的问题。这些问题都被保存在 RAGFlow 的后台数据库中。在 LLM 思考和产生推理链的时候，这些问题，以及知识图谱，是重要的搜索对象，它们可以帮助 LLM 生成更加有效的提问，提供更加丰富的素材。

  5. 由 LLM 判断迭代是否需要终止。如果 LLM 一直没有判定，则根据阈值终止迭代。

  6. 最后根据完整的推理链汇总内容，得到最终结果，实现完整的 Deep Research 逻辑。

工作流程如下图所示：

下边是采用 RAGFlow 连接 DeepSeek V3 得到的推理对话结果，看起来，跟 DeepSeek R1 结果十分类似。

在使用推理大模型的过程中，我们目前有如下体会：

  1. 目前 RAGFlow 的推理型 RAG，又叫所谓 Deep Research，连接普通 LLM 例如 V3 跟连接推理 LLM 例如 R1，效果相差不大。但 R1 的思考过程很长，再引入这种迭代式思考，会变得更加长，因此其实不推荐直接采用 R1 。

  2. 并不是所有的 RAG 都依赖 R1。举例来说，我们看到社区有用户采用 RAGFlow 连接 R1，但他同时勾选了让 LLM 抽取关键词，甚至知识图谱，这会极大增加整个系统入库的延迟。因为 R1 会对每个入库的 Chunk 都会经过长时间思考才产生输出，而这些输出仅仅是一些关键词或者知识图谱的命名实体，它们并不需要思考来获得，因此这时用 R1 非常不合算。

  3. 这绝不是说 R1 没有价值，相反，当前的 R1，由于无法直接提供推理链的 API ，因此无法利用用户数据来生成专有的推理链，也无法实现一边推理思考一边检索数据的模拟人类思维的过程，这不能不说是让 R1 面向企业使用的一个痛点。 因此，当前 RAGFlow 所做的这些工作，是在 DeepSeek 开放推理链 API 之前，也能让企业利用自己的数据，受益于推理的探索。在各种场景下接普通 LLM 产生的结果，跟接推理 LLM 产生的结果，有哪些差异，也欢迎广大社区用户给到我们有益的反馈。

  4. 最后，我们期望 DeepSeek R1 这样的推理模型，尽快提供推理链专用 API，这样可以结合大模型强大的推理能力，针对用户数据生成更有价值的推理链，解锁更大的商业价值。

通过 RAGFlow 的 Deep Research 类工作，已经可以将 LLM 的推理能力，真正面向企业端产生一些实际的价值。例如我们可以利用它，结合健康数据，病例等给出诊断建议类报告；可以利用它，结合经营数据，运营数据，给出企业商业辅助决策；可以利用它，结合规章制度，案例给出判定决策辅助。。。 等等诸如此类。 如果说过去的 RAG ，仍然停留在知识库，问答，客服等浅层应用，那么今天的 RAG，已经开启了辅助决策的大门。在去年底 Claude 的博文中曾经断言，Agent 的价值还未充分发挥，因此实际场景中工作流采用更多。这个断言，随着推理能力的落地和进化，必定会发生变化——让 LLM 的思考，充分发挥决策，而尽力减少人工的编排和 Plan，是真正让 AI 走向普适的标志，这个标志已经出现，并且在今年会加速进化。这也是为何 RAGFlow 如此快速推出推理能力的主要原因。推理 + 搜索，这就是 AI 服务企业的核心依托，欢迎大家持续关注 RAGFlow ，永远致力于提供最好的 RAG 核心引擎，在 Github 上为我们点亮星标 https://github.com/infiniflow/ragflow

参考文献

  1. https://www.anthropic.com/research/building-effective-agents

  2. On the Emergence of Thinking in LLMs I: Searching for the Right Intuition https://arxiv.org/abs/2502.06773

  3. MCTS-KBQA-Monte Carlo Tree Search for Knowledge Base Question Answering https://arxiv.org/abs/2502.13428

  4. KBQA-o1-Agentic Knowledge Base Question Answering with Monte Carlo Tree Search https://arxiv.org/abs/2501.18922

  5. O1 Embedder-Let Retrievers Think Before Action https://arxiv.org/abs/2502.07555

  6. Search-o1-Agentic Search-Enhanced Large Reasoning Models https://arxiv.org/abs/2501.05366

  7. PIKE-RAG-sPecIalized KnowledgE and Rationale Augmented Generation https://arxiv.org/abs/2501.11551

  8. Agentic Reasoning-Reasoning LLMs with Tools for the Deep Research https://arxiv.org/abs/2502.04644

  9. LevelRAG-Enhancing Retrieval-Augmented Generation with Multi-hop Logic Planning over Rewriting Augmented Searchers https://arxiv.org/abs/2502.18139

  10. OmniThink-Expanding Knowledge Boundaries in Machine Writing through Thinking https://arxiv.org/abs/2501.09751

  11. RAG-Gym-Optimizing Reasoning and Search Agents with Process Supervision https://arxiv.org/abs/2502.13957

  12. DeepRAG-Thinking to Retrieval Step by Step for Large Language Models https://arxiv.org/abs/2502.01142

infominer
关注
RAGFlow升级指南(纯小白都看得懂)
Ven%的博客
03-14 1170
升级背景:RAGFlow项目原来的版本是0.17.0版本,在使用过程中,发现当知识库检索为空的时候并且使用到rerank模型的时候,就会输出错误的信息;为了解决这个版本问题,特意升级到最新的版本0.17.2(截止2025-3-14时最新版本就是0.17.2了)官方升级文档https://ragflow.io/docs/dev/upgrade_ragflow官方文档对小白还是不太友好,作者也是捣鼓了十多分钟,特出下面的升级指南前提:旧版本的RAGFlow项目是启动好了的1.在ragflow目录下执行(拉取最新
RAG模型的知识融合与推理：实现更智能的知识检索增强
AI天才研究院
03-10 149
1. 背景介绍 1.1 传统知识检索的局限性 在计算机科学领域，知识检索（Information Retrieval, IR）一直是一个重要的研究方向。传统的知识检索方法主要依赖于关键词匹配和文档排序，这种方法在处理简单查询时效果较好，但在处理复杂查询、多轮对话等场景时，往往难以满足用户需求。随
22-检索增强生成(RAG) 优化策略篇.pdf
12-31
大模型八股面试
精品-2025最新大模型RAG技术总结（技术干货+高频面试题）-81份.zip
最新发布
03-30
精品干货，2025大模型RAG技术总结（技术干货+高频面试题），共81份，供大家学习参阅。 一、LLM-模型 大模型（LLMs）agent 面.pdf 大模型（LLMs）langchain面 大模型（LLMs）参数高效微调(PEFT)面 大模型（LLMs）基础面.pdf 大模型（LLMs）幻觉面.pdf 大模型（LLMs）强化学习—— PPO 面.pdf 大模型（LLMs）强化学习——RLHF及其变种面.pdf 大模型（LLMs）微调面.pdf 大模型（LLMs）推理面.pdf 大模型（LLMs）训练集面.pdf 大模型（LLMs）评测面.pdf 大模型（LLMs）进阶面.pdf 多模态常见面试题.pdf 大模型 RAG 检索增强生成面.pdf 大模型校招面试题.pdf 大模型（LLMs）Tokenizer篇.pdf 大模型（LLMs）分布式训练面.pdf 大模型（LLMs）增量预训练篇.pdf 大模型（LLMs）幻觉面.pdf 大模型（LLMs）推理加速篇.pdf 大模型（LLMs）显存问题面.pdf 大模型（LLMs）蒸馏面.pdf 大模型（LLMs）面试题答案Plus.pdf 基于LLM+向量库的文档对话经验面.pdf 大模型（LLMs）langchain面.pdf LoRA篇.pdf 参数高效微调篇PRFT.pdf 提示学习（Prompting）篇.pdf 适配器微调（Adapter-tuning）篇.pdf 二、NLP-Interview 主题模型 事件抽取 命名实体识别 对话系统 数据挖掘 文本分类 文本匹配 文本摘要 知识图谱 知识表示 问答系统 预训练模型 主题模型TopicModel.pdf 事件抽取.pdf CRF.pdf DNN-CRF.pdf 中文命名实体识别.pdf 命名实体识别Trick.pdf 对话系统.pdf 数据挖掘.pdf ClassifierTrick.pdf Retrieval2Classifier.pdf TextClassifier.pdf 文本匹配模型 ESIM.pdf 语义相似度匹配任务中的 BERT.pdf 文本摘要.pdf KBQA.md Neo4j.pdf 知识图谱.pdf 知识表示.pdf Faiss.pdf FAQ检索式问答系统.pdf bert bert_big.pdf bert_generative.pdf bert_zip.pdf Elmo.pdf fastText.pdf TFIDF.pdf word2vec.pdf BERT.pdf BERT源码解析-主体篇.pdf BERT源码解析-句向量生成篇.pdf BERT源码解析-微调篇.pdf BERT源码解析-文本相似度篇.pdf BERT源码解析-预训练篇.pdf 三、NLP面试 NLP和大模型面试题.pdf NLP最全八股面试含答案.docx NLP最全八股面试含答案.pdf NLP选择题38道含答案.pdf 四、RAG相关(面试+简历+项目代码) RAG项目完整代码 大模型RAG简历 大模型面试题 ai_rag_demo.zip RAG 项目总结.pdf RAG 高频题目.pdf 五、Transformer面试 NLP和大模型面试题.pdf transformer面试题124题含答案.docx transformer面试题124题含答案.pdf 六、大模型(LLMs)算法 大模型(LLMs)算法100题含答案.pdf 大模型微调面试题.pdf 大模型高频面试50题含答案(1).docx 大模型高频面试50题含答案.docx 大模型高频面试50题含答案.pdf 深度学习损失函数大全.pdf 六、深度学习 机器学习高频22题含答案.pdf 深度学习大厂37题.pdf 深度学习损失函数大全.pdf 深度学习精选54题含答案.pdf
GraphRag实战篇：RAG+知识图谱，提升模型推理能力的大杀器，值得收藏！
xx_nm98的博客
10-16 8791
经典RAG应用的范式与架构已经非常流行，我们可以在很短的时间内借助成熟框架开发一个简单能用的RAG应用。但是传统的RAG系统有个非常大的局限，即不善于处理复杂关系推理、总结性问题和多跳问题。因为传统RAG需要对文本进行分块，然后进行向量化存储，这种处理模式就会天然导致RAG在全局查询或总结上的表现不会太好。比如面对这样的问题，“《跨越鸿沟》这本书整体上讲了什么？请撰写一份2000字的总结”，传统RAG大概率会表现不及格。
比 GraphRAG 还牛！微软开源 PIKE-RAG，专治复杂知识理解与推理难题
Python_cocola的博客
02-24 1858
最近，自然语言处理领域又迎来了一个重磅消息！微软继 GraphRAG 之后，又发布了一款名为 PIKE-RAG（sPecIalized KnowledgE and Rationale Augmented Generation）的强大工具，专门用来攻克复杂企业场景中私域知识的提取、推理和应用难题。这一成果已经在工业制造、采矿、制药等多个领域完成测试，大幅提升了问答准确率，而且报告、代码和 demo 全都开源了，简直太良心！今天咱们就来好好扒一扒，PIKE-RAG 到底有啥神奇之处。
OpenRAG：全面增强RAG推理，超越Self-RAG、RAG 2.0、Command R+
m0_59164520的博客
10-10 974
现有的RAG方法在使用开源LLMs处理复杂查询（如多跳检索任务）时，表现出有限的推理能力。提出了一个名为的新框架，旨在提高开源LLMs在RAG中的推理能力。。它学习生成检索/不检索标记，对比相关和不相关上下文，并将答案归类为部分支持、完全支持或不支持。然后在推理时，给定一个（多跳）用户查询，首先强制模型在输入条件为不检索的情况下生成答案，并根据模型的置信度动态决定是否需要检索。OPEN-RAG将任意密集LLM转换为参数高效的稀疏专家混合（MoE）模型，能够处理包括单跳和多跳查询在内的复杂推理任务。。
【RAG】混合RAG系统，提升复杂推理任务表现
2301_81940605的博客
08-14 1231
检索增强生成（RAG）系统在处理复杂推理任务方面展现出显著的潜力。然而，现有的RAG系统在面对需要复杂推理、多领域知识集成及数值计算的任务时，仍存在性能瓶颈。为了进一步提升系统的表现，本文提出了一种混合RAG系统，通过整合多种优化方法，显著增强了系统的推理能力和处理复杂任务的能力。本文介绍的RAG系统设计并实现了一个包括网页处理、属性预测、数值计算、LLM知识提取、知识图谱及推理模块在内的综合架构。该系统能够有效地从多种来源提取信息，并通过高级推理模块结合这些信息，生成高质量的答案。
r1-reasoning-rag：一种新的 RAG 思路
m0_59164520的博客
03-09 803
最近发现了一个开源项目，它提供了一种很好的 RAG 思路，它将的推理能力结合应用于 RAG 检索项目地址项目通过结合Tavily和LangGraph，实现了由 AI 主导的动态信息检索与回答机制，利用deepseek的r1推理来主动地从知识库中检索、丢弃和综合信息，以完整回答一个复杂问题。
大模型微调和RAG的应用场景
热门推荐
herosunly的博客
06-19 22万+
本文主要介绍了大模型微调和RAG的应用场景，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 大模型微调 vs. RAG
百篇论文博文导航AI工程之路：FT、KG、RAG与Agent技术全方位探索
丨汀、的博客
07-08 4431
百篇论文博文导航AI工程之路：FT、KG、RAG与Agent技术全方位探索
大模型知识检索RAG业务实践实践(高级篇)
丨汀、的博客
08-31 4270
大模型知识检索RAG业务实践实践(高级篇)
AI学习指南RAG篇(2)-RAG的发展历程
俞兆鹏的博客
03-09 52
RAG 可以从长文本中提取关键信息，生成简洁、准确的摘要。例如，新闻机构可以利用 RAG 模型自动生成新闻文章或总结冗长的报告。RAG 技术自 2020 年提出以来，经历了从 Naive RAG 到 Advanced RAG、Modular RAG、Graph RAG 和 Agentic RAG 的多个发展阶段。每个阶段都在前一阶段的基础上进行了改进和扩展，使得 RAG 技术在知识密集型任务中的表现不断提升。
RAGFlow部署和使用
meiyoudianhuafei的博客
03-04 1877
前提条件RAGFlow 是一款基于深度文档理解构建的开源 RAG（Retrieval-Augmented Generation）引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型（LLM）针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。前提条件CPU >= 4 核安装确保不小于 262144：如需确认如果你的改动会在下次系统重启时被重置。如果希望做永久改动，还需要在文件里把进入docker。
RagFlow+Deepseek构建个人知识库
hbkybkzw的博客
03-13 1241
注意，ragflow 镜像有多个不同的大小，默认的是v0.17.2-slim，区别如下，主要是包不包含embedding模型的区别，我选的默认的，因为占用小，并且我后续使用调用api的方式去配置embedding模型，所以就选，默认的。我们可以看到已经引用到上传的pdf了，点击引用的标识，可以看到引用的内容出自哪里。查看模型填入的名称，如果是直接下载的软件包安装的，打开终端输入以下命令查看。这里直接调用硅基流动的api，下面的博客有注册的方法。这个NAME下面的就是需要输入的名称。
全面增强复杂推理的混合RAG系统
步子哥的博客
08-14 931
在传统的RAG系统中，检索器从外部知识源中提取相关文本，并将其与用户查询结合，作为生成模型的输入。通过这种方式，RAG能够在不牺牲模型的泛化能力的情况下，获取领域特定的知识。为此，我们开发了一种属性预测器，评估每个特定问题的类型和基础事实变化的速率，以优化各类问题的性能。通过这些模块的集成，我们显著提升了信息提取的能力，减少了幻觉的发生，提高了数值计算的准确性，并增强了高阶推理能力。我们的系统在CRAG基准测试中表现出色，尤其是在需要复杂推理的问题类型上，获得了第三名的佳绩。库将文本分割为单独的句子。
rag模型
03-26
### RAG模型概述 RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合了外部知识库的大规模语言模型技术。这种技术通过引入外部数据源，在生成过程中动态检索相关信息并将其融入到模型的上下文中，从而有效缓解传统大模型可能出现的知识过时或“幻觉”问题[^2]。 具体来说，RAG的核心思想是在生成阶段实时从外部知识库中提取相关的信息片段，并将这些信息与模型自身的参数化知识相结合，以提高生成内容的质量和准确性。这种方法不仅能够显著减少模型错误率，还能扩展其对新领域或特定主题的理解能力[^1]。 --- ### RAG的技术实现流程 以下是RAG系统的典型工作流： #### 1. 查询编码器 输入用户的查询请求后，系统会先通过一个预训练好的编码器对其进行处理，得到该查询对应的嵌入表示（embedding）。这个过程可以看作是对自然语言描述的一种数值转换操作[^3]。 ```python query_embedding = query_encoder.encode(query_text) ``` #### 2. 向量数据库检索 接着，上述获得的查询向量会被用来搜索预先构建好的大规模文档向量存储——即所谓的向量数据库。这里的目标是从海量的历史资料或者专业知识集合里找到最贴近当前提问的一组候选答案段落。 ```python retrieved_docs = vector_db.search(query_embedding, top_k=5) ``` #### 3. 上下文融合与重写Prompt 一旦获取到了若干条高度匹配的结果记录之后，下一步就是把这些额外提供的背景材料附加至原始询问之上形成一个新的提示词序列（prompt），以便让下游的语言生成模块更好地理解任务需求以及所需依据的具体细节[^4]。 ```python new_prompt = f"Given the following context:\n{retrieved_docs}\nAnswer this question: {query_text}" ``` #### 4. 文本生成 最后一步便是调用强大的LLM接口完成最终的回答创作活动啦！此时经过前面几步精心准备后的综合型prompts将会被送入指定的服务端API入口处执行推理计算得出结果返回给前端展示出来供用户查看阅读学习参考借鉴等等用途哦😊👍🎉👏✨🌟🌈！ ```python response = llm_api(new_prompt) return response ``` --- ### 示例应用案例分析 假设我们正在开发一款医疗健康咨询类聊天机器人服务项目，则可以通过部署一套完整的RAG架构来提升用户体验满意度水平。例如当患者提出关于某种罕见病症状表现特征方面的疑问时，我们的后台程序就会自动前往权威医学期刊论文资源池里面快速定位关联度最高的几篇文章摘要节选下来作为补充说明素材交给GPT系列这样的高级别人工智能助手进一步加工润色成易于普通人接受理解的形式呈现出来。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值