什么是AI Agent？

随着ChatGPT推出插件和函数调用功能，构建以LLM（大语言模型）为核心控制器的AI Agent愈发成为一个拥有无限可能的概念。LLM的应用潜力不局限于生成高质量的文章、故事、散文和程序，它还可以被构建成一个强大的通用问题求解器。AI Agent无疑是当下大模型最激动人心的发展主线。

1

概念

在计算机、人工智能专业技术领域，一般将Agent译为“智能体”，其定义是在一定的环境中体现出自治性、反应性、社会性、预动性、思辨性（慎思性）、认知性等一种或多种智能特征的软件或硬件实体。AI Agent则是指由LLM驱动的智能体。目前它还没有一个被广泛接受的定义，但我们可以把它描述成这样一个系统：利用LLM推理问题，能自行创建解决问题的计划，会借助一系列工具来执行计划。

简而言之，AI Agent是一个具有复杂推理能力、记忆力以及执行任务能力的系统，如下图所示：

AI Agent由以下核心组件构成：

• 智能体核心

中央协调模块，管理核心逻辑和智能体行为特点，能进行关键决策。我们需要在这里定义以下内容：

• 智能体的总体目标

  智能体要达成的总体目标和目的。

• 执行工具

  智能体可以使用的所有工具的简短列表（或“用户手册”）。

• 如何使用计划模块的解释说明

  详细说明不同计划模块的作用，以及在什么情况下使用。

• 相关记忆

  这是一个动态部分，填充与用户过往对话中最相关的内容。“相关性”是根据用户提出的问题判断的。

• 智能体个性（可选）

  如果要求LLM偏向于使用某些类型的工具，或者在最终响应里展现某些特点，则可以将所需个性描述清楚。

下图是一个求解用户问题“2024财年Q1与Q2之间，利润增长了多少？”的提示模板：

当把提示输入给LLM后，LLM做出的决策是需要使用搜索工具：

• 记忆模块

记忆模块扮演非常重要的作用，记录了智能体内部日志以及和用户交互历史。有2种类型的记忆模块：

• 短期记忆

  智能体尝试回答用户提出的单个问题而经历的思考和行动。通常就是提示工程中的上下文，超过上下文的限制后，LLM就会忘记之前输入的信息。

• 长期记忆

  用户和智能体交互相关的行为和想法，包含跨度数周或数月的对话记录。通常是一个外部的向量库，可以几乎无限地保留和快速取回历史信息。

记忆模块不仅需要基于语义相似性的检索。通常，综合评分由语义相似性、重要性、新近程度，以及其它特定指标构成。记忆模块用于检索特定信息。

• 工具集

工具集是定义明确的可执行工作流，智能体使用它们来执行任务。通常，工具集就是专门的第三方API。

例如，智能体可以使用RAG（检索增强生成）根据上下文生成答案；使用代码解释器（如Python脚本解释器）来编程求解复杂任务；使用API从互联网搜索信息；或者使用任何简单的API服务，如使用天气API获取天气预报、使用即时消息API收发消息。

• 计划模块

复杂的问题，例如分析一组财务报表以回答上层业务问题，通常需要循序渐进的方法。对于由LLM驱动的智能体，计划能力本质是Prompt Engineering（提示工程）很多高级玩法的高级实践。可以通过使用两种技术的组合来应对复杂问题：

• 任务和问题分解

复合问题或推断信息需要某种形式的分解。例如这个问题“2024财年Q1与Q2之间，利润增长了多少？”

该问题可以分解为多个子问题：

• “Q1的利润是多少？”

• “Q2的利润是多少？”

• “上述两项结果之间的差是多少？”

专门的AI Agent必须能主导这种分解，例如采用下面的提示模版：

当填入具体问题输入给LLM后，LLM会做出问题拆解结果的响应：

• 反思或批判

ReAct（推理和动作协同）、Reflexion（反思）、Chain of Thought（思维链）和Graph of Thought（思维图）等技术已成为基于批判或基于证据的提示框架。它们已被广泛用于提高LLM的推理能力和响应能力。这些技术还可用于优化智能体生成的执行计划。

例如LangChain智能体框架支持的ReAct，即Reason+Act模式，把复杂问题拆开，有些缺少的内容通过工具从外部获取，然后补充到问题回答里。

ReAct的提示模版一般包含这些内容的多次重复：

举例问题“除了Apple Remote之外，还有什么设备可以控制Apple Remote原生设计用来交互的程序？”

ReAct会按如下的步骤思考和行动：

• 第1次思考：我需要找到Apple Remote原生设计用来交互的程序。第1次行动：去搜索引擎搜索【Apple Remote】。从而取得关于Apple Remote的介绍。

• 第2次思考：在结果中找到Apple Remote原生设计用来控制Front Row程序，我需要查找Front Row的信息。第2次行动：搜索【Front Row】。搜索引擎返回没找到相关信息。

• 第3次思考：我应该加上“软件”重新搜索。第3次行动：搜索【Front Row（软件）】。取得Front Row软件的介绍。

• 第4次思考：在结果中发现关键信息：Front Row软件可以被Apple Remote或键盘多功能按键控制。第4次行动：完成，返回用户答案【键盘多功能按键】。

这个过程如下图所示：

2

挑战

基于LLM去构建Agent，目前也有一系列挑战 :

• 有限的上下文长度

有限的上下文长度限制了对历史信息、详细指令、API调用上下文、API响应的容纳量。Agent的系统设计必须在有限的通信带宽中工作。与之矛盾的是，像“自我反思”这种机制若想要取得更好的效果，则需要更长甚至无限的上下文窗口。虽然向量存取能提供访问更大知识库的能力，但它的表现力并不像上下文内的注意力机制那么强大。

• 长期计划和任务拆解能力不足

在针对长期历史做计划、有效地探索解决问题时，Agent还面临挑战。LLM在面对未知错误时，调整计划显得非常艰难。和人类从失败教训中学习相比，LLM还不够强大。

• 自然语言接口不够可靠

当前的Agent体系非常依赖使用自然语言作为LLM和外部组件（比如记忆和工具）的接口。然而，LLM本身的输出是存有疑虑的，LLM经常犯语法格式错误，也时常产生违抗表现（比如不遵照用户指令）。以致于很多Agent都在解析模型输出上花了很多功夫。

3

展望

生成式AI的智能革命演化至今，人类与AI协同出现了三种模式：

在Agents（智能体）模式下人类设定目标和提供必要的资源，然后AI独立地承担大部分工作，最后人类监督进程以及评估最终结果。这种模式下，AI充分体现了智能体的互动性、自主性和适应性特征，接近于独立的行动者，而人类则更多地扮演监督者和评估者的角色。Agents模式相较于Embedding（嵌入）模式、Copilot（副驾驶）模式无疑更为高效，或将成为未来人机协同的主要模式。

AI Agent是人工智能成为基础设施的重要推动力。回顾技术发展史，技术的尽头是成为基础设施，比如电力成为像空气一样不易被人们察觉，但是又必不可少的基础设施，还如云计算等。几乎所有的人都认同，人工智能会成为未来社会的基础设施。而智能体正在促使人工智能基础设施化。AI Agent能够适应不同的任务和环境，并能够学习和优化其性能，使得它可以被应用于广泛的领域，进而成为各个行业和社会活动的基础支撑。

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓