大模型Agent几种常见的架构设计模式

架构设计模式已成为程序员的重要技能。在大模型 Agent 智能体应用领域， 同样需要架构设计模式来支撑大模型应用在企业中规模的落地。

根据多年的架构设计经验，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战：推理成本问题、推迟性能延迟问题、生成幻觉问题、生成复读机等问题。

今天先来介绍最常用的 ReAct 架构设计模式。

1

ReAct 架构设计模式

ReAct 是 Reseaning 和 Action 两个词的前缀合成，代表着先推理再行动的一种架构设计模式。进一步拆解来看，ReAct 有3个重要的组成部分：Planning（规划）、Action（行动）、Observation（观测），如下图所示：

我们先来看一个工作中的案例：马上五一长假了，你老板让你给他安排从上海去巴黎的行程，给你的预算是8K。

你收到这个任务后，

第一步：通过大脑思考给出一个 Planning（规划）的方案，从上海直飞巴黎。

第二步：需要通过去哪儿等订票网站 Action（行动）落实第一步的规划方案。

第三步：对订票 Action（行动）的过程进行观测，发现从上海直飞巴黎的机票最便宜的都需要1W+，老板给的预算不够，因此需要重新规划行程（Replanning），选择转机的方案，如下图 6990 元就够了。

目前世界上最聪明的 Agent 就是人类，大模型 Agent 智能体是仿照人类的思维方式来完成各种任务，因此大模型 Agent 智能体同样需要 ReAct 的 Planning-Action-Observation 三步架构落地方式。

2

ReAct 架构设计模式代码实现

大模型 Agent 智能体的 ReAct 架构设计模式本质是将人类的思维、做事方式以 Prompt Engineering 的方式告诉大模型进行规划、并调用工具完成执行、形成 Run Loop 循环持续迭代直到完成对应的任务。

推荐 Sam Witteveen 开源的 ReAct 的架构设计实现，Github 地址如下：https://github.com/samwit/langchain-tutorials/blob/main/agents/YT_Exploring_ReAct_on_Langchain.ipynb

代码结构主要有以下几步：

第一步：生成提 示词。

将代码中预设好 ReAct 的提示词模板（格式：Quesion->Thought->Action->Observation）和用户的问题进行合并。

第二步：调用大模型生成 Thought + Action。

将 Few-shot 少样本提示词发给大模型，大模型生成一堆 Thought、Action 和 Observation，我们并不希望大模型输出 Observation。因此在代码里通过 Stop.Observation 来控制大模型遇到 Observation 后停止输出，最后大模型仅仅返回 Thought 和 Action。

第三步：调用外部工具（API）完成执行。

获得 Action 后，若非 “Finish” 状态，大模型将运用其 Function Calling 能力，即将 Action 中的自然语言转化为对应外部工具可理解的 API 调用。此功能本质上是对大模型进行微调以实现语言到 API 接口格式的精准转换。

第四步：生成 Observation。

API 接口响应数据接收后，系统会将其转化为自然语言表述，形成Observation。接着，将新生成的 Observation 与先前的 Thought 及当前非“Finish”的 Action 一并提交给大模型，继续执行步骤2（Thought 生成）与步骤3（Action 转化及执行）。这一循环将持续进行，直到接收到 Action为 “Finish” 为止。

第五步：完成输出。

在流程结束时，最后一个 Observation 会被转化为易于理解的自然语言表述，然后呈现给用户，作为整个交互过程的最终输出结果。

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓