关于如何使用Agent进行生成式AI应用开发_ai agent 工作流研发代码快速生成

本文链接：https://blog.csdn.net/2401_85378759/article/details/140708729

3.1 引言

随着人工智能技术的飞速发展，大语言模型（LLM)、检索增强技术（RAG)和智能体（Agent)已经成为推动该领域进步的关键技术。正确理解这三者的概念及其之间的关系是面向GenAI开发的基础。下图是2024年国内的AIGC产业链企业的总结。

在这里插入图片描述

3.2 LLM、RAG和Agent之间的对比

因此，可以理解为LLM是基础，RAG是在LLM基础上的进一步应用，而智能体则是综合运用LLM和RAG以及其他技术，在更复杂环境中进行交互和任务执行的实体。这种关系体现了从基础技术到应用技术再到实际应用的逐级深入。

3.3 LLM Agent架构

由于大语言模型（LLM)在处理复杂问题时特别是需要多步骤的复杂问题处理时面临的困难，因此业界提出了一些针对性的prompt解决方案，例如Chain-Of-Thought,CoT) [1]、Tree of Thoughts,ToT[2]等。

在现实世界的场景中，决策通常需要经过一系列步骤进行处理，包括观察、推理和行动。这是一个迭代的过程，直到获得最终结果。这一过程启发了现代LLM Agent的设计，这些代理通常遵循“观察-推理-行动-重复”模型，反映了人类问题解决方法。可以参考文章 ReAct: Synergizing Reasoning and Acting in Language Models[3]。

在Lilian Weng在2023年的LLM Powered Autonomous Agents[4]里给出了LLM Agent的架构，核心模块包含Planning、Memory、Tool use。

一个典型的LLM Agent的工作场景演示示意图：例如，Python REPL用于解决分析任务，若需获取最新信息，则应进行网络搜索；而当用户要求创建图像时，则可使用Dall-E3。

3.4 LLM Agent开发框架

目前，很多公司都推出了帮助开发者实现LLM Agent的开发助手，例如OpenAI’s Assistants API[5]、Langchain’s agent[6]结合Langgraph[7]；Dify.ai[8]、Coze[9]等也推出了自己的Agent开发框架。

本文主要基于AWS Bedrock Agent[10] 来进行生成式AI应用开发实验演示。

3.5 AWS Bedrock Agent介绍

AWS Bedrock Agent[11]使生成式AI应用程序能够在不同系统和数据源之间执行多步骤任务。Agent利用基础模型的推理能力将用户请求分解为逻辑序列，确定所需信息，并决策调用哪些API以及执行顺序。Bedrock Agent可以通过AWS CLI、控制台或者API进行创建。Bedrock Agent包含如下模块[12]:

基础模型（Foundation model，FM) : 基础模型理解用户请求，将复杂任务分解为多个步骤，并通过对话收集额外信息以采取行动完成请求。
说明（Instructions）: 编写说明来描述代理的设计用途。借助高级提示，用户可以在编排的每个步骤中为代理进一步自定义指令，并包含用于解析每个步骤输出的 Lambda 函数。
以下至少一项：

- Action Groups(操作组）：用户可以提供以下资源来定义Agent为用户执行

的操作：OpenAPI schema或者 function deatil schema；Lambda函数（调用Agent)

- 知识库(Knowledge bases) : 将知识库与Agent进行关联，以便Agent能够查询知识库获取额外的上下文信息，从而提升Agent生成的回答质量
提示模版(Prompt templates): 提示模板是创建要提供给 FM 的提示的基础，AWS Bedrock agent公开了预处理、编排、知识库响应生成和后处理期间使用的默认四个基本提示模板。用户可以选择编辑这些基本提示模板，以自定义代理在其序列的每个步骤中的行为。详情参考Advanced prompts in Amazon Bedrock[13]

典型的AWS Bedrock agent编排流程如下图所示

3.6 实践示范

1. 实践一: 基于AWS Bedrock 构建企业产品知识问答助理agent

主要流程如下：

创建AWS Bedrock agent
创建知识库(Knowledge bases)
创建操作组(Action Groups) : AWS Lambda函数(含权限控制）以及OpenAPI Schemas[14]
测试Agent，测试过程中可以使用AWS Bedrock Trace events[15]进行调试
Agent更新部署(使用agent version和agent alias)，参考Deploy an agent[16]

参考代码仓库[17]

2. 实践二：基于AWS Bedrock自建生成式AI平台（复杂应用）

主要流程如下：

用户在浏览器客户端发起访问请求，经过AWS CloudFront缓存并回源AWS S3获取网站静态资源
用户在网页端登录，通过SDK请求AWS Cognito获取登录认证授权 JWT token信息
用户登录后需要在前端页面根据业务需要请求相关功能时，首先调用Lambda Function Url进行相关请求的签名，携带JWT Token信息验证用户权限并获得签名后的请求header信息
根据业务需要，使用签名后的header请求相关服务的AWS Lambda Function URL（Model对话、Agent对话、翻译、知识库等）
AWS Lambda Function 根据需要使用Bedrock SDK请求Bedrock的相关功能
请求结果上下文记录到AWS DynamoDB的Table中

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：