大型语言模型代理：方法论、应用与挑战综述

人工智能正在进入一个关键时代，随着大语言模型（LLM）代理的出现——这些智能实体通过大语言模型具备感知环境、推理目标和执行行动的能力 。与仅响应用户输入的传统AI系统不同，现代LLM代理通过持续学习、推理和适应积极地与其环境互动。这一转变代表了技术进步以及人类与机器关系的根本重塑。商业化的LLM代理系统（例如，DeepResearch、DeepSearch 和 Manus）体现了这种范式转变——自主执行曾经需要人类专业知识的复杂任务，从深入研究到计算机操作，并根据特定用户需求进行调整。

与传统代理系统相比 ，基于LLM的代理在多个维度上实现了代际飞跃，包括知识来源 、泛化能力和交互模式 。如今的代理代表了一个质的飞跃，由三个关键发展推动：LLM前所未有的推理能力、工具操作和环境交互的进步 以及支持纵向经验积累的复杂记忆架构。这种融合将理论结构转化为实用系统，逐渐模糊助手与合作者之间的界限。这种转变根本上源于LLM作为“通用任务处理器”的角色，通过生成架构在语义空间内统一感知、决策和行动，从而形成类似人类的认知循环 。

我们的研究通过一个统一的分类法对代理系统进行了新的考察，该分类法连接了代理构建、协作机制和进化路径。我们提供了一个全面的视角，追踪代理如何被定义、如何单独或集体运作以及如何随时间演变。除了阐明当前的格局外，我们的工作不仅澄清了当前的格局，还识别出预示未来发展的新兴模式。代理技术的快速发展需要及时的调查，为研究人员提供一个最新的分类法以理解这一动态领域。

图1 展示了我们理解LLM代理生态系统的组织框架。核心是我们以方法为中心的方法，通过三个相互关联的维度检查代理系统的技术基础：构建（代理如何定义和构建）、协作（它们如何互动和合作）以及进化（它们如何随时间学习和改进）。这一三重基础补充了实际考虑因素，包括评估方法、开发工具、与安全和伦理相关的现实世界挑战以及多样化的应用领域。这个框架塑造了我们调查的结构，使我们能够系统地探索每个维度，同时突出它们的相互联系。

与以往调查的区别。 尽管近年来有几项调查探讨了AI代理的不同方面，但我们的研究通过其方法论重点和对LLM代理架构的综合分析做出了独特的贡献。以往的调查主要集中在特定应用（例如，游戏 、部署环境、多模态或安全性，而其他一些则提供了广泛的概述但没有详细的方法论分类 。最近的研究还比较了基于LLM的代理与传统AI代理 、多代理交互 、工作流 以及合作决策机制 。与这些工作相比，我们的调查通过以下几点脱颖而出：

1. 以方法为中心的分类法： 我们提出了一个系统的分类法，将LLM代理系统分解为其基本方法组件，包括角色定义、记忆机制、规划能力和行动执行 。
2. 构建-协作-进化框架： 我们分析了LLM代理的三个相互关联的维度——构建、协作和进化，提供比以前方法更全面的理解。这种集成的架构视角突出了单个LLM代理设计与协作系统之间的连续性，而以前的研究往往分别考察这些方面 。
3. 前沿应用和现实关注： 除了解决理论概念外，我们的工作还考察了LLM代理的尖端工具、通信协议和多样化应用。我们对紧迫的现实世界挑战（包括安全、隐私和伦理）进行了全面分析。这种前瞻性的视角尤其有价值，因为代理技术正从研究转向广泛实施。

我们的调查为研究人员和从业者提供了更结构化的分类法，以便从不同角度理解和比较LLM代理的研究进展。随着LLM代理系统越来越多地整合到各种关键领域，了解其架构基础不仅对研究人员至关重要，而且对政策学者、行业从业者和社会大众同样重要。本调查旨在提供这一基础，同时为这一快速发展的领域绘制前进的道路。

图2：大型语言模型代理方法的分类法

2 代理方法论

本节通过三个相互关联的维度：构建、协作和进化，提出了一个全面理解基于LLM的代理系统的框架。如图 [fig:taxonomy_data_efficient_llm_post_training] 所示，我们首先考察代理构建（第 [sec:agent-construction] 节），它建立了包括角色定义、记忆机制、规划能力和行动执行在内的基础组件。然后我们探讨协作范式（第 [sec:agent-collab] 节），这些范式使多个代理能够通过集中控制、分散合作或混合架构共同工作。最后，我们研究进化机制（第 [sec:agent-evol] 节），这些机制允许代理通过自主优化、多代理协同进化和外部资源整合随时间改进。这个三维框架提供了一个系统分析LLM代理系统全生命周期的方法。

3 评估与工具

LLM代理的评估基准和工具概述。左侧展示了按通用评估、领域特定评估和协作评估分类的各种评估框架。右侧说明了LLM代理使用的工具、代理创建的工具以及部署代理的基础设施。

随着LLM代理在复杂性和能力上的不断发展，强大的评估框架和专用工具已成为代理生态系统的重要组成部分。本节探讨了支持LLM代理开发、评估和部署的广泛基准、数据集和工具景观。我们首先在第 [sec:benchmark_datasets] 节中考察评估方法，涵盖了通用评估框架、领域特定评估系统和协作评估方法。然后我们在第 [sec:tools] 节中讨论工具生态系统，包括LLM代理使用的工具、代理自身创建的工具以及部署代理系统的基础设施。

4 现实世界问题

LLM代理系统中的现实世界问题概述，分为三个领域：安全挑战（包括以代理为中心和以数据为中心的威胁）、隐私问题（涵盖记忆漏洞和知识产权利用）和社会影响考虑（突出潜在利益和伦理挑战）。

随着LLM代理越来越多地融入社会的各个方面，它们带来了必须解决的重大现实世界挑战，以实现负责任的部署。图 2 提供了这些挑战的概述，分为三个主要领域：安全、隐私和社会影响。安全问题包括针对模型组件的以代理为中心的威胁（第 [subsec:security_1] 节）和污染输入数据的以数据为中心的威胁（第 [subsec:security_2] 节）。隐私问题（第 [subsec:privacy] 节）包括记忆漏洞和知识产权利用。除了技术问题外，LLM代理还引发了重要的伦理考虑和广泛的社会影响（第 [subsec:ethics] 节），包括对社会的潜在益处和风险。了解这些挑战对于开发强大、值得信赖的代理系统至关重要。

5 应用

LLM代理的多功能性使其被广泛应用于各个领域，改变了在研究和行业环境中处理复杂任务的方式。本节调查了广泛的LLM代理应用，从加速科学发现（第 [subsec:scientific] 节）到增强互动游戏体验（第 [subsec:gaming] 节）、建模复杂的社交现象（第 [subsec:social] 节）以及提高生产力（第 [subsec:productivity] 节）。这些应用展示了通过专门知识应用、多代理协作和人机交互范式的整合，如何增强基于LLM的代理系统的问题解决能力。

6 挑战与未来趋势

基于LLM的多代理系统的进步带来了重大机遇，但也面临着可扩展性、内存、可靠性和评估方面的紧迫挑战。本节概述了塑造代理AI未来的关键障碍和新兴趋势。

6.1 可扩展性和协调

由于高计算需求、协调效率低下和资源利用率不足，扩展基于LLM的多代理系统仍然具有挑战性 ( qian2024scaling? ; chan2023chateval? ) 。现有的多代理框架，为轻量级代理设计，例如函数调用和基于规则的系统 ( rana2000scalability? ; deters2001scalable? ) ，缺乏对具有数十亿参数的LLM代理的系统级优化 ( wu2023autogen? ) 。未来方向包括 分层结构 ，其中高级LLM代理将子任务委托给专业化的低级代理，以及 去中心化规划 ，使代理能够同时计划并定期同步以缓解瓶颈。需要在稳健的通信协议和高效的调度机制方面取得进展，以增强协调、实时决策和系统鲁棒性 ( qian2024scaling? ; chan2023chateval? ) 。

6.2 内存限制和长期适应.

在多轮对话中保持连贯性和纵向积累知识需要有效的记忆机制 ( verma2024adaptagent? ) 。然而，由于LLM的有效上下文非常有限 ( jiang2023llmlingua? ; jin2024mm? ) ，将足够的历史信息集成到提示中变得具有挑战性。这阻碍了模型在长时间互动中的上下文感知。确保互动连续性需要超出当前实践（如向量数据库、内存缓存、上下文窗口管理和检索增强生成（RAG） ( lewis2020retrieval? ) ）的高效记忆可扩展性和相关性管理 ( yao2024velo? ) 。未来方向包括结合 情景记忆 用于短期规划和 语义记忆 用于长期保留的 分层记忆架构 ，以及动态精简记忆以增强推理的自主知识压缩 ( cheng2024xrag? ) 。

6.3 可靠性和科学严谨性

尽管LLM知识丰富，但它们既不全面也不及时更新，因此可能不适合作为结构化数据库的独立替代品。其随机性质使得输出对提示中的微小变化高度敏感 ( jin2024better? ) ，导致幻觉 ( agarwal2024medhalu? ) ，并在多代理系统中（如医疗应用和自主科学发现中的代理框架 ( lu2024ai? ) ）累积不确定性，不可靠的输出可能会误导高风险决策。解决这些问题需要开发严格的验证机制和结构化的验证管道，包括 基于知识图谱的验证 ，其中输出会与结构化数据库进行交叉检查 ( agrawal2024can? ) ，以及 通过检索进行交叉引用 ，这种方法将响应基于引用来源，如WebGPT中的网页 ( nakano2021webgpt? ) 。沿着这一方向，未来工作可以探索能够直接生成引用的LLM，以及为LLM应用随时可用的最新且全面的知识来源。同时，在医疗保健、法律或科学研究等高风险领域，纯自动化仍然是有风险的。 人机验证循环 正成为确保安全、可靠和问责的标准。未来的工作可以通过增强交叉引用机制 ( gao2023enabling? ) 、自一致性 ( wangself? ) 和标准化的AI审计框架（如事实核查日志）来提高问责制。例如，一个关键挑战是确定在大规模LLM生成内容中的最佳干预点。

6.4 多轮、多代理动态评估

传统的人工智能评估框架专为静态数据集和单轮任务设计，无法捕捉LLM代理在动态、多轮和多代理环境中的复杂性 ( verma2024adaptagent? ) 。当前的基准主要评估孤立设置中的任务执行，例如代码完成 ( zhou2023codebertscore? ; wang2023execution? ) 和对话生成 ( lykov2023llm? ) ，忽略了在多轮互动中出现的突发代理行为、长期适应和协作推理。此外，静态基准难以跟上不断发展的LLM能力 ( zhudyval? ) 。关于潜在的数据污染问题，模型性能可能源于记忆而非真正的推理。未来的研究应集中在动态评估方法上，整合多代理交互场景、结构化的性能指标和自适应样本生成算法 ( zhu2024dynamic? ) ，以创建更强大和可靠的评估框架。

6.5 安全部署的监管措施

随着代理AI系统获得自主权，监管框架必须发展以确保问责、透明和安全。一个关键挑战是减轻算法偏差——代理可能会根据性别、年龄、种族或其他敏感属性无意中产生歧视，通常以开发者难以察觉的方式 ( yi2023unpacking? ; liu2025culturevlm? ) 。解决这一问题需要标准化的审计协议以系统地识别和纠正偏差，以及可追溯性机制，记录决策路径和模型置信度以实现事后问责。未来的工作可以探索结合公平意识训练管道与法律和伦理保障的多学科方法。政策制定者、研究人员和行业利益相关者之间的合作将是确保AI驱动系统安全、公平地运作并与社会价值观一致的关键 ( wang2023evaluating? ) 。

6.6 角色扮演场景

LLM代理可以模拟诸如研究员、辩论者和讲师等角色 ( chan2023chateval? ; ChatArena? ) ，但其有效性受到训练数据限制和对人类认知不完整理解的约束 ( wang2023evaluating? ; yao2024value? ) 。由于LLM主要是在基于网络的语料库上训练的，它们难以模仿在线上代表性不足的角色 ( nguyen2024large? ) ，并且经常产生缺乏多样性的对话 ( jin2024agentreview? ) 。未来的研究应专注于通过改进多代理协调、纳入现实推理框架和细化对话多样性来提高角色扮演的真实感，以更好地支持复杂的人机交互。

7 结论

本综述提出了一种系统的LLM代理分类法，分解了其在构建、协作和进化维度上的方法组件。我们推进了一种统一的架构视角，将单个代理设计原则与多代理协作系统连接起来——这种方法使我们的工作区别于以前的综述。尽管取得了显著的进步，但仍存在重大挑战，包括可扩展性限制、内存约束、可靠性问题和不充分的评估框架。展望未来，我们预计在协调协议、混合架构、自我监督学习和安全机制方面的变革性发展将增强代理在多样化领域的功能。通过提供这种基础理解和确定有前途的研究方向，我们希望为LLM代理技术的负责任发展做出贡献，这些技术可能从根本上重塑人机协作。