如何改进Agents的推理与规划?

❝

如果你询问任何正在使用大型语言模型（LLM）构建智能代理的开发者，他们很可能会告诉你，智能代理在规划和推理方面的不足是影响其可靠性的一个主要问题。

• 智能代理的规划究竟是什么？

• 目前人们是如何克服这一缺陷的？

• 我们对智能代理未来规划和推理的发展趋势有何预测？

接下来的文章将一一解答这些问题。

规划和推理的真正含义是什么？

智能代理的规划和推理，指的是它如何思考并决定采取哪些行动，这既包括短期行动也包括长期行动。LLM需要评估所有可用信息，然后决定需要采取哪些步骤，以及当前应该首先执行哪一步。

大多数情况下，开发者会使用函数调用技术来让LLM选择要执行的行动。这项技术最初由OpenAI在2023年6月引入，随后在2023年末至2024年初被其他公司采纳。通过函数调用，开发者可以为不同的函数提供JSON格式的模式，并让LLM生成符合这些模式的对象。

函数调用主要用于让智能代理选择立即要执行的行动。然而，要成功完成一个复杂的任务，通常需要按照顺序执行一系列行动。对于LLM来说，进行长期规划和推理是一项更具挑战性的任务，原因有二：首先，LLM需要考虑一个长期目标，然后迅速回到需要立即执行的短期行动；其次，随着智能代理执行的行动越来越多，这些行动的结果会反馈给LLM，导致上下文窗口扩大，可能会使LLM分心，影响其性能。

和LLM世界中的大多数事物一样，很难准确衡量当前模型在规划和推理方面的表现。有一些合理的基准测试，比如Berkeley Function Calling Leaderboard，用于评估函数调用的能力。我们也进行了一些研究，以评估多步骤应用的效果。但最好的方法是为你的特定问题构建一个评估集，并尝试自己进行评估。

❝

💡根据经验，我们可以得出一个普遍的结论：规划和推理目前还没有达到现实世界任务所需的水平。

如何改进智能代理的规划能力？

改进智能代理规划能力的一个简单方法是确保LLM拥有进行合理规划和推理所需的所有必要信息。虽然这听起来很基础，但实际上，传入LLM的提示往往没有包含足够的信息。增加一个检索步骤或澄清提示指令，可以轻松地实现改进。这就是为什么实际查看数据并了解LLM实际看到的内容至关重要。

接下来，我建议你尝试改变你的应用程序的认知架构。这里所说的“认知架构”，指的是你的应用程序用于推理的数据工程逻辑。你可以考虑两种类型的认知架构来提高推理能力：通用认知架构和特定领域认知架构。

通用认知架构与特定领域认知架构

通用认知架构试图以一种通用的方式实现更好的推理，可以应用于任何任务。例如，“计划和解决”架构，这篇论文提出了一种先制定计划，然后执行计划中每个步骤的架构。另一个例子是Reflexion架构，这篇论文探讨了在智能代理完成任务后增加一个明确的“反思”步骤，以评估任务是否完成得当。

尽管这些想法显示出了一定的改进，但它们通常对于生产环境中的智能代理来说过于通用。相反，我们看到智能代理通常采用特定领域的认识架构。这通常体现在特定领域的分类/路由步骤、特定领域的验证步骤等方面。一些关于规划和反思的通用思想可以在这里应用，但它们通常是以特定领域的方式应用的。

以AlphaCodium论文为例，它通过使用所谓的“流程工程”（谈论认知架构的另一种方式），实现了最先进的性能。下面是一个他们使用的流程图。

AlphaCodium流程图

这个流程非常特定于他们试图解决的问题。他们告诉智能代理按步骤做什么 - 想出测试，然后想出解决方案，然后迭代更多的测试等。这种认知架构高度特定于领域 - 它不会帮助您写文章，例如。

为什么特定领域认知架构如此有帮助？

我倾向于从两个角度来看待这个问题。

首先：你可以将这视为向智能代理传达它应该做什么的另一种方法。你可以通过提示指令或在代码中硬编码特定的转换来传达指令。任何一个都是有效的！代码是极好的传达你想要发生的事情的方式。

其次：这本质上是从我们作为工程师的角度，将规划责任从LLM中移除。我们基本上是在说：“不用担心规划，LLM，我会为你做的！”当然，我们并没有从LLM中移除所有的规划，因为我们仍然要求它在某些情况下进行一些规划。

例如，让我们回顾一下上面的AlphaCodium示例。流程中的步骤基本上是我们为LLM做的规划！我们告诉它首先编写测试，然后编写代码，然后运行测试等。这可能是作者认为编写软件的好计划。如果他们正在计划如何解决一个问题，这就是他们会怎么做的。而不是在提示中告诉LLM - 它可能会忽略它，不理解它，没有所有细节 - 他们通过构建特定领域的认识架构来告诉系统要做什么。

❝

💡我们看到的几乎所有高级“智能代理”实际上都有一个非常特定领域和自定义的认知架构。

我们正在使用LangGraph使构建这些自定义认知架构变得更容易。LangGraph的一个主要关注点是可控性。我们设计LangGraph非常低级和高度可控 - 这是因为我们看到这种可控性是100%需要创建可靠的自定义认知架构。

规划和推理的未来会是什么样子？

LLM领域一直在迅速变化和发展，我们在构建应用程序时，尤其是构建工具时，应该牢记这一点。

我目前的立场是，通用推理将越来越多地被吸收到模型层中。模型将变得越来越智能，无论是通过规模还是研究突破 - 似乎很愚蠢去反对这一点。模型也会变得更快，更便宜，所以将大量上下文传递给它们将变得越来越可行。

然而，我相信无论模型变得多么强大，你总是需要以某种形式向智能代理传达它应该做什么。因此，我相信提示和自定义架构将一直存在。对于简单任务，提示可能就足够了。对于更复杂的任务，您可能希望将它应该如何行为的逻辑放在代码中。代码优先方法可能更快，更可靠，更易于调试，并且通常更容易/更符合逻辑地表达。

我最近在播客上与Sequoia的Sonya和Pat讨论了这个话题。他们画了一个很好的图表，展示了提示、认知架构和模型的角色/重要性可能如何随时间演变。

所以，尽管LLM的规划和推理肯定会变得更好，我们也坚信，如果您正在构建特定任务的智能代理，那么您将需要构建一个自定义认知架构。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】