大模型Agent最新综述：Agent的挑战，Agent应用框架

大模型微调部署

已于 2024-10-26 19:53:32 修改

阅读量1.3k

点赞数 8

文章标签：人工智能 AI大模型大模型 LLM ai Agent 学习

于 2024-10-17 18:07:01 首次发布

本文链接：https://blog.csdn.net/star_nwe/article/details/143024743

版权

现实中的Agent系统会面临很多的挑战，常见的有以下几点：

一个Agent应用框架主要由三个主要的部分：感知、记忆和行动。

在这里插入图片描述

感知部分就像是机器人的眼睛和耳朵。它用来接收来自外部世界的各种信息，比如文字、图片或者声音，然后把这些信息转换成机器人能理解的形式。
行动部分就像是机器人的手脚和大脑。它根据接收到的信息做出决策，就像是我们根据看到和听到的东西来决定怎么做一样。同时，机器人还可以根据和外部世界互动得到的反馈来调整和改进自己的决策。
记忆部分则像是机器人的记忆库，它保存了各种各样的知识和经验。这些记忆帮助机器人更好地理解信息和做出决策。记忆部分还可以通过学习来更新，让机器人在未来能做得更好。
最后，多Agent协作。像是一群机器人一起工作，每个机器人都有自己的任务，但它们通过合作来完成更复杂的工作。

感知可以处理多种模态的输入，包括文本、视觉（如图像）和听觉（如声音）输入。

其中文本输入可以进一步细分为基于token的输入、基于tree/graph的输入和混合输入。这些不同的输入形式分别关注代码的不同特征，例如语义、结构等。

当然无论是文本、视觉还是听觉输入，感知模块最终都要将接收到的信息转换成适合LLM处理的嵌入格式，为后续的推理和决策制定奠定基础。

记忆模块负责存储能够帮助LLM进行有效推理决策的信息。它包括语义记忆、情景记忆和程序记忆三种类型。

记忆模块是Agent的大脑，它保存了所有重要的信息和经验，帮助Agent更好地理解问题和做出决策。
在这里插入图片描述

重头戏，Action。行动模块包括内部行动和外部行动，它们根据LLM的输入做出推理决策，并根据与外部环境互动获得的反馈来优化这些决策。

内部行动，涉及Agent的思考过程，包括推理、检索和学习。

其中推理部分，可以概括为3种形式

基于思维链推理（Chain-of-Thought, CoT）：通过逐步展开思考过程，帮助LLM深入理解问题，分解复杂任务，并生成高质量的答案。
结构化推理（Structured CoT）：将推理过程以类似伪代码的形式呈现，涉及循环、分支等结构。这种方式特别适合于代码生成，因为它可以利用源代码的丰富结构信息。
其他推理形式：包括头脑风暴和树形推理等，这些方法通过生成相关关键词或动态探索和更新推理过程来辅助问题解决。

其中检索部分，为了辅助推理和决策过程，从内部或外部的知识库中检索相关信息。这包括查找文档、代码片段、API信息等，以支持当前的任务。根据召回内容不同，可以概括为以下几个类别：

在这里插入图片描述