RAG 的尽头是 Agent？

1、大模型的痛点

大模型技术席卷全球，为日常工作和生活带来便利，但也面临时效性、准确性等问题。如何提升大模型的性能？解决其挑战？构建高级应用？成为重要待解决问题。

RAG（检索增强生成） 技术通过信息检索和文本生成，显著提升了大模型的性能。但 RAG 也存在局限性，比如：数据依赖、检索效率等。如何解决这些痛点？如何进一步提升 RAG 性能？是本文剖析的重点。

**—2**__—

RAG 的痛点

Naive RAG 通过检索和生成，提升大模型在问答、智能助手等任务上的性能。但 Naive RAG 难以处理复杂问题或大型文档集，举例如下：

简单问题：“特斯拉的主要风险因素是什么？” 和 “作者在 YC 期间做了什么？” 等问题，Naive RAG 可以给出准确答案。

复杂问题：“总结 XXX 公司年度报告”、“比较开发者 A 和 B 贡献” 或 “分析滴滴公司风险” 等问题，Naive RAG 可能无法提供满意结果。

针对复杂问题，我们需要探索更高级 RAG 解决方案。

**—3**__—

From RAG to Agent

Naive RAG（基于检索的增强生成）应用主要是在整合自身知识库的基础上，提升大型模型的性能，以产出更精准、即时和丰富的行业内容或定制化信息。然而，这种应用仍限于内容生成的领域。若要人工智能像一位“目标导向”的高效工作者一样，自主选择多种工具，与不同系统互动合作，直至完成最终任务，那么我们就需要从 RAG 升级至 Agent 模式。

以下是 RAG 向 Agent 转变的描述：

从 RAG 到 Agent 的演进，并非完全摒弃 RAG，而是在其基础上拓展以下几层功能：

1. 多轮对话能力：与用户进行更深层次的交流，准确把握用户需求。

2. 查询/任务规划层：理解和规划复杂的查询与任务流程。

3. 外部工具接口：利用外部工具来完成特定任务。

4. 反思机制：对执行结果进行反思、总结和评估。

5. 记忆功能：记录用户交互历史，以提供更加个性化的服务。

通过这些功能的增强，Agent 不仅能应对复杂任务，还能在多变的环境中灵活应对。与 RAG 相比，Agent更专注于完成特定任务，并更注重与现有系统的融合。它不仅理解语言，还能在现实世界或数字系统中采取行动。Agent 不仅能执行复杂的多步骤任务，比如；信息检索、数据处理，还能无缝接入各种系统和 API 接口，访问用户数据，与数据库互动。

人类之所以独特，很大程度上是因为我们会使用工具。同样，作为智能体的Agent 也能借助外部工具，处理更为复杂的任务。比如：Agent 能够利用图表生成工具制作在线图表，使用天气查询工具获取天气信息。因此，Agent 是真正释放大模型潜能的关键。

因此，我们的大模型应用也将从 RAG 迈向 Agent，可以说，Agent 是 RAG 发展的必然归宿。

**—4**__—

案例剖析

最近，阿里巴巴千问团队成功开发了一款新型 Agent（智能体），该智能体整合了 RAG 技术，旨在解析包含数百万字词的文档。尽管它仅利用了 Qwen2 大模型的 8k 上下文窗口，但其性能表现却超越了传统的 RAG 模型和长序列原生模型。

Agent 构建流程如下：

该智能体的构建涉及三个级别，每一级都是基于前一级的构建：

级别一：检索

这一级别关注的是如何识别并提取与关键词最相关的文档片段，主要分为以下三个步骤：

步骤1：区分指令信息与非指令信息

用户输入示例：“请用2000字的篇幅详细说明，我的问题是，自行车是什么时候发明的？请用英文回答。”

信息分解：{“问题内容”: \[“自行车是什么时候发明的”\], “指令要求”: \[“2000字详细说明”, “用英文回答”\]}。

步骤2：多语言关键词推导

输入问题：“自行车是什么时候发明的”

信息转换：{“英文关键词”: \[“bicycles”, “invention”, “timing”\], “中文关键词”: \[“自行车”, “发明”, “时间”\]}。

步骤3：应用 BM25 关键词检索算法

通过 BM25 算法，对关键词进行高效的检索，以定位相关文档片段。

级别二：分块阅读

当相关文档片段与用户查询关键词的重叠度不足，可能导致这些片段在检索过程中被忽略，未能传递给大模型。为了解决这个问题，我们采用了以下策略：

步骤1：相关性评估

使用聊天模型对每个512字节的文档片段进行评估，判断其与用户查询的相关性。如果模型判断为不相关，则输出“无”；若判断为相关，则输出相关的句子。

步骤2：基于相关句子的检索

从步骤1中提取出的相关句子，将它们作为搜索查询词，利用BM25算法检索出与用户查询最相关的文档块。

步骤3：生成答案

根据检索到的上下文信息，生成最终的答案。

级别三：递进推理

面对多跳推理问题，比如：用户提问：“与贝多芬的第五交响曲创作于同一世纪的交通工具是什么？”大模型需要将问题分解为多个子问题来逐一解答：“贝多芬的第五交响曲是在哪个世纪创作的？”以及“自行车是在哪个世纪发明的？”

这一挑战可以通过以下步骤，利用工具调用（又称函数调用）智能体或 ReAct智能体来解决：

1. 向三级智能体（Lv3-Agent）提出原始问题。

2. 当三级智能体无法根据其现有记忆回答问题时，执行以下步骤：

a. 三级智能体生成一个新的子问题。

b. 三级智能体将这个子问题提交给二级智能体（Lv2-Agent）。

c. 将二级智能体的回答整合到三级智能体的记忆库中。

3. 重复上述过程，直到三级智能体能够回答原始问题。

4. 最终，三级智能体提供原始问题的解答。

参考：https://mp.weixin.qq.com/s/nwPaNEJzY55GQmhe8Bgakw

为了帮助同学们彻底掌握大模型的应用开发、LangChain、RAG、Agent、Fine-tuning 微调、预训练、Prompt Engineering、向量数据库、部署、生产化，请同学们扫描下方官方二维码

那么，如何系统的去学习大模型LLM？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~

篇幅有限，部分资料如下：

👉LLM大模型学习指南+路线汇总👈

💥大模型入门要点，扫盲必看！

💥既然要系统的学习大模型，那么学习路线是必不可少的，这份路线能帮助你快速梳理知识，形成自己的体系。

👉大模型入门实战训练👈

💥光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉国内企业大模型落地应用案例👈

💥《中国大模型落地应用案例集》 收录了52个优秀的大模型落地应用案例，这些案例覆盖了金融、医疗、教育、交通、制造等众多领域，无论是对于大模型技术的研究者，还是对于希望了解大模型技术在实际业务中如何应用的业内人士，都具有很高的参考价值。 （文末领取）

💥《2024大模型行业应用十大典范案例集》 汇集了文化、医药、IT、钢铁、航空、企业服务等行业在大模型应用领域的典范案例。

👉LLM大模型学习视频👈

💥观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。 （文末领取）

👉640份大模型行业报告👈

💥包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

👉获取方式：

这份完整版的大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓