RAG学习笔记系列（三）

RAG 中的 Agent

Agent

Agent 是使用 LLM 进行推理，为其提供一系列工具完成一个任务。

工具包括一系列定义好的函数，比如：代码函数、外部API、其他的 Agent。

OpenAI 助理

OpenAI 助理基本上实现了很多工具供 LLM 选择，比如：

• 对话历史
• 知识库
• 文档上传
• 函数调用 API

多文档Agent架构

1、多文档 Agent 包括：

• 对每个文档初始化一个 Agent (OpanAIAgent)，可以完成文档总结和问答
• 一个顶级 Agent，负责将查询路由到文档
  Agent 和进行最后回答的合成

2、文档 Agent 有两个工具：向量索引和摘要索引，根据查询决定使用哪个工具
3、对于顶级 Agent，所有的文档 Agent 都是工具

响应内容合成器

内容响应合成是 RAG pipeline 的最后一步，根据检索到的上下文内容和用户原始的查询，生成最后的响应内容。

• 简单方法：将检索到的上下文和查询拼接，一起发送给 LLM
• 高级方法：多次调用 LLM，优化检索到的上下文，从而生成更好的回答

主要合成响应内容的高级方法有：

• 迭代细化答案：逐个将检索到的上下文文本块发送给 LLM，根据上一个文本块生成的答案会和下一个文本块内容一同发送给 LLM
• 总结检索到的上下文
• 根据每一个检索到的文本块生成各自的答案，然后将答案拼接或者总结。