AI转型的程序员学习籽料获取《LLM大模型入门+进阶学习资源包》,扫码获取~
👉[CSDN大礼包🎁:全网最全《LLM大模型入门+进阶学习资源包》免费分享(安全链接,放心点击)]()👈
0、概要
Agent是干什么的?Agent的核心思想是使用语言模型(LLM)作为推理的大脑,以制定解决问题的计划、借助工具实施动作。在agents中几个关键组件如下:
LLM:制定计划和思考下一步需要采取的行动。
Tools:解决问题的工具
Toolkits:用于完成特定目标所需的工具组。一个toolkit通常包含3-5个工具。
AgentExecutor:AgentExecutor是agent的运行时环境。这是实际调用agent并执行其选择的动作的部分。
1、Agent整体架构
代理(Agents)涉及LLM做出决策以确定要采取哪些行动,执行该行动,查看观察结果并重复执行步骤直到完成。
在LLM驱动的自主代理系统中,LLM充当代理的大脑,并辅以几个关键功能:
规划
子目标拆解解:agent将大型任务拆解为小型的、可管理的子目标,从而能够高效处理复杂任务。
反思和改进:agent可以从过去的行为中进行自我批评和自我反省。这种从错误中吸取教训,并对未来的步骤进行改进的思维可以有效提高最终结果。真种思维方式来自ReAct,其大致格式为:Thought: …Action: …Observation: … (Repeated many times)。即为ReAct模式。
记忆
短期记忆:上下文学习是利用模型的短期记忆来学习的。
长期记忆:通过利用外部向量存储和快速检索,agen可以实现长时间保留和回忆(无限)信息的能力。
工具使用
代理学习调用外部 API 以获取模型权重中缺少的额外信息(通常在预训练后很难更改),包括当前时讯、代码执行能力、对私有信息源的访问等。自然可以自定义工具使用,如本地向量数据库查找。
自定义工具方法类:
2、Agent业务实现逻辑
Agent的业务流程如下图所示:
1. 用户提出问题
2. Agent基于预设的Prompt,将问题包装之后送给LLM
3. LLM返回给Agent结果和需要使用的工具
4. Agent使用工具获取必要信息
5. 工具返回给Agent获取到的信息
6. 打包上下文发再次送给LLM
7. LLM返回给Agent结果
8. Agent给用户返回最终结果
3、LangChain中Agent实现
LangChain为代理提供了标准接口,一系列可供选择的代理类型
langchain中agent有两种主要类型:
动作代理人(Action agents):在每个时间步上,使用所有先前动作的输出决定下一个动作。
-
接收用户输入
-
决定是否使用任何工具以及工具输入
-
调用工具并记录输出(也称为“观察结果”)
-
使用工具历史记录、工具输入和观察结果决定下一步
-
重复步骤 3-4,直到确定可以直接回应用户
计划执行代理人(Plan-and-execute agents):预先决定所有动作的完整顺序,然后按照计划执行,而不更新计划。
-
接收用户输入
-
规划要执行的全部步骤序列
-
按顺序执行步骤,将过去步骤的输出作为未来步骤的输入
-
动作代理人适用于小任务,遵循ReAct模式。而计划执行代理人适用于复杂或长时间运行的任务,这些任务需要保持长期目标和重点。
4. Agent示例代码
Agent角色指令的概念
1、角色指令的定义
-
决定AI智能体的行为
-
决定AI智能体的输出效果
-
匹配场景使用
2、角色指令的万能公式
角色设定万能公式 = 角色设定 + 使用场景 + 工具 + 限制 + 输出样式(附加:+例子)
-
角色设定:设定您想让Agent扮演的角色,可以给出一些您期望它具备的能力。
-
使用场景+工具:描述您的应用背景,并给出相应背景下使用的工具,让大模型可以在更为精确的场景下用匹配的工具行动。
-
限制:明确当用户输入什么信息下生成什么样的结果,使得答案更为精准。
-
输出样式:输出风格和格式要求,使大模型更为匹配您的需求。可以附带一些例子,使其理解更为透彻。
角色指令的优化策略
1、角色设定策略
给出角色设定请尽可能清晰简短,尽量直接表述角色名称,同样也可以附加一些你所期望的能力作为补充。
2、工具选择
代码解释器:代码解释器支持应用运行代码,具备分析数据、url信息提炼、处理上传文件、数学运算等功能。
文生图:大模型将结合文心一格生成对应图像。
知识问答-百度搜索:大模型将结合百度搜索结果回答问题。
知识问答-知识库检索:大模型将基于您上传的知识文档回答问题,可选择直接上传文件,或选择已有知识集合。知识集合相关内容可查看文档我的知识。
3、场景工具策略
-
尽可能一一对应
-
做出描述
-
简洁、直接
4、限制
-
尽可能一一对应
-
描述越具体越好
5、输出样式策略
-
清晰明了
-
提出具体的要求
-
例如:字数、回答样式等
6、给出示例
-
主要用于需要有特定回复的时候
-
请给出特定的问题和相应答复
如何学习AI大模型?
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓