代理(Agent)乃一种智能实体,具备自主环境感知与决策行动能力,旨在达成既定目标。作为个人或组织之数字化替身,AI代理执行特定任务与交易,其核心价值在于简化工作流程,削减繁复性,并有效降低人力投入与沟通障碍,促进效率与协作的双重提升。简而言之,代理技术让AI成为高效助手,助力个人与组织在复杂多变的环境中更加游刃有余。
01.Agent基础
Agent的核心决策机制围绕着动态适应与持续优化展开。它使LLM(大型语言模型)能够依据实时变动的环境信息,灵活选择并执行恰当的行动策略,或对行动结果进行精准评估与判断。这一过程通过多轮迭代不断重复,每一次迭代都基于对环境的深入理解与上一次执行效果的反馈,旨在逐步逼近并最终达成既定目标。Agent的此种运作模式,确保了其在复杂多变的环境中能够保持高效、灵活与适应性,持续推动任务向成功迈进。
精简的决策流程:P(感知)→ P(规划)→ A(行动)
-
感知(Perception)是指Agent从环境中收集信息并从中提取相关知识的能力。
-
规划(Planning)是指Agent为了某一目标而作出的决策过程。
-
行动(Action)是指基于环境和规划做出的动作。
工程实现上可以拆分出四大块核心模块:推理、记忆、工具、行动
02.各平台功能总结与比较
官方GPTs商店:各大平台均设有官方GPTs应用商店,汇聚了琳琅满目的插件与模型,满足多元化需求。
知识库:在知识库构建上,各平台展现独特风采,内容既广泛又深入,助力用户轻松获取所需信息。
流程图编排: 流程图编排功能作为标配,让无编程基础的用户也能通过直观拖拽,迅速构建高效工作流,实现流程自动化。
**多模型支持:**对于模型支持,部分平台展现开放姿态,兼容多模型选择;而有的则专注于自家大模型深度优化,但无论哪种,均能有效支撑日常工作的顺利进行。
**插件调用:**插件调用机制的引入,极大增强了平台的灵活性与扩展性,用户可根据实际需求灵活调用各类插件,提升工作效率。
**Prompt配置:**至于Prompt配置,各平台均展现出创新精神,提供个性化、精细化的配置选项,确保用户能够精确控制模型行为,满足特定场景下的需求。
03.国内主流一站式Agent平台深度测评
1.Betteryeah
网址:https://www.betteryeah.com/agentstore
斑头雁智能科技,其核心团队源自阿里巴巴钉钉的初创精英,专注于打造零门槛Agent构建平台,旨在迅速激活并释放大模型的强大潜力。该平台内置了包括ChatGLM、阿里通义千问、百度千帆在内的国内外顶尖AI模型,为用户提供了丰富的选择。
**产品形态:**在产品形态上,斑头雁智能科技与Coze等前沿平台并驾齐驱,均属于高度集成的平台型产品,为用户提供了一站式解决方案。
**开发模式:**其开发模式灵活多变,既支持单一Agent的精细化打造,也适应于Multi-Agent系统的复杂部署,满足不同业务场景下的多样化需求。
**应用场景:**面向企业级市场,斑头雁智能科技聚焦AI客服、营销、销售等多个关键领域,提供智能化升级的全面解决方案。
其官方智能体中心更是汇聚了全类别的智能应用,从全面的智能客服系统,到针对电商、销售、营销、HR等多个垂直行业的定制化方案,再到快速上手的学习资源,一应俱全,助力企业轻松实现数字化转型与智能化升级。
2.Coze
网址:https://www.coze.cn
Coze,作为字节精心打造的AI Bot开发旗舰平台,致力于赋能开发者,以强大而简洁的界面,加速智能聊天机器人的设计与部署流程。在中文大模型智能体生态中,Coze以其先驱地位傲视群雄,无论是率先布局的市场先机,还是其在智能体编排工具的成熟度、插件的广泛性、兼容大模型种类的多样性,乃至发布渠道的全面覆盖,均展现出非凡实力。
Coze平台慷慨开放,无论是其自研的云雀大模型,还是外部知名的moonshot等尖端技术,均对开发者免费开放,极大地降低了创新门槛。其卓越的用户体验与庞大的日活用户数,共同构筑了行业内的领先地位,无论是从生态构建、用户体验,还是底层技术支撑来看,Coze无疑是众多智能体平台中的佼佼者。
不得不提的是字节的另一款AI智能对话助手——豆包。豆包以其独特的prompt驱动方式,让用户能够轻松定制专属智能体,其亮点在于无缝集成了先进的TTS(文本到语音)技术,让自定义的智能体能够直接与用户进行语音交互,体验更加自然流畅。相较于Coze的全方位智能体构建方案,豆包更像是一款功能精炼、操作快捷的便携式Coze版本,尤其适合在移动端快速高效地应用。以下是豆包智能体中心的精彩展示,进一步诠释了其便捷与高效。
3.百度千帆AgentBuilder
网址:https://agents.baidu.com/
百度AgentBuilder是一款智能体开发工具,旨在降低智能体开发门槛,让每个人、每个组织都能够成为智能体的开发者。AgentBuilder是百度推出的三大AI开发工具之一,另外两个工具分别是AppBuilder和ModelBuilder(小纸条之前的文章给大家介绍过各家产品们的区别)。
产品形态:基于文心大模型的智能体平台,也是平台型。
开发方式:支持开发者根据自身行业领域和应用场景选择不同类型的开发方式,提供低成本的prompt编排方式。
功能特点:提供零代码和低代码两种开发模式,适合不同技术背景的开发者
来看下智能体中心大家都在用什么,热门的主要也还是聚焦提效、娱乐、生活、以及实时热点的高考。
4.SkyAgents(昆仑万维)
昆仑万维公司隆重推出天工SkyAgents,这是一款引领未来的AI Agents构建平台,旨在重塑智能应用的创造边界。
产品形态创新:天工SkyAgents以其先进的技术架构,打造了一个高效、灵活的AI Agents构建生态系统。该平台不仅集成了前沿的人工智能技术,还通过模块化设计,让AI Agent的创建与部署变得前所未有的简单快捷。
开发体验革新:区别于传统繁琐的开发流程,天工SkyAgents引入了革命性的开发方式。用户仅需通过自然语言输入,即可轻松描述AI Agent的功能与行为;同时,可视化拖拽界面更是将复杂的技术操作简化为直观的图形操作,深度集成Skywork大语言模型,让AI Agent的智能化水平跃升至新高度。
应用场景广泛:天工SkyAgents的智能体,凭借其强大的感知与决策能力,能够精准适配各类具体业务场景。无论是电商平台的个性化推荐、客服系统的智能应答,还是金融领域的风险评估、智能制造的自动化控制,天工SkyAgents都能以用户需求为核心,提供定制化的智能解决方案,助力企业实现数字化转型与升级。
社区生态活跃:在天工SkyAgents的智能体中心,一个充满活力的社区生态正在形成。这里不仅有官方精心打造的示例Agents,展示着AI Agent的无限可能与最佳实践;更有来自全球的个人开发者,他们通过天工平台贡献自己的智慧与创意,构建了一个丰富多彩、不断更新的Agent市场。这个市场不仅为开发者提供了展示自我的舞台,更为用户提供了更多元化、更个性化的AI服务选择。
综上所述,天工SkyAgents以其独特的产品形态、革新的开发方式、广泛的应用场景以及活跃的社区生态,正逐步成为AI Agent构建领域的佼佼者。未来,随着技术的不断进步与应用的持续深化,天工SkyAgents有望引领智能体技术迈向新的高度,为人类社会创造更加美好的智能生活。
5.阿里云魔搭社区
网址:https://modelscope.cn/studios/agent
产品形态革新:我们自豪地推出这款专为开源大语言模型(LLM)量身定制的AI Agent开发框架。它不仅完美兼容并优化各类主流LLM,还提供了一个高度灵活与可扩展的平台,让AI Agent的开发与部署更加便捷高效。
开发方式多元化:该框架支持创建多样化的多模态AI Agent,涵盖客户服务、个人助理等多个领域,满足不同场景下的智能化需求。用户可以根据具体业务场景,轻松构建出既能处理文本对话,又能理解图像、语音等多类型信息的智能体,实现全方位的用户交互体验。
一键协作,简化流程:我们深知在AI项目开发中,模型间的协作至关重要。因此,该框架创新性地引入了一键发送指令调用其他AI模型的功能,大幅简化了模型集成与协作的流程。用户无需深入技术细节,即可轻松实现多模型间的无缝对接,提升整体项目的智能化水平和响应速度。
低/零代码平台,降低门槛:为了进一步降低AI Agent的开发门槛,我们结合了低/零代码平台的设计理念,让非技术背景的用户也能参与到AI应用的开发中来。通过直观的图形化界面和丰富的预设模板,用户可以快速上手,实现个性化定制的智能体,无需编写复杂的代码。
广泛适用,未来可期:该框架设计之初就充分考虑了未来技术的发展趋势,因此它不仅适用于当前多种业务场景,还具备高度的可扩展性和兼容性。随着开源大模型的不断涌现与更新,我们将持续优化该框架,确保它能够快速适配更多新增的开源大模型,为用户提供更加丰富和强大的AI解决方案。
创建智能体新体验:在开源社区中,该产品的智能体创建过程同样令人印象深刻。用户可以通过对话配置和参数配置两种方式,灵活定义智能体的行为逻辑和外观样式。虽然当前版本暂未直接展示workflow流程设计界面,但凭借其强大的功能集成和易用性设计,我们相信未来版本中将会引入更多高级功能,包括workflow流程编辑器等,以进一步提升用户的开发体验和智能体的智能化水平。
6.讯飞的星火友伴
网址:https://xinghuo.xfyun.cn/botcenter/createbot
讯飞科技,以其深厚的AI技术底蕴,携手星火V3.0这一强大引擎,精心打造了一个专注于虚拟人格GPTs应用的创新平台。该平台不仅代表了讯飞在人工智能领域的又一里程碑式成果,更是为探索个性化智能交互体验开辟了全新的道路。
智能体中心,是由讯飞官方精心设计的虚拟人格模板。这些模板各具特色,涵盖了从亲切友善的客服助手到风趣幽默的聊天伙伴,再到专业严谨的顾问导师等多种角色设定。
用户可根据自身需求与偏好,轻松选择一款合适的模板作为起点,也可以通过平台的强大功能进行二次改造与个性化定制。
7.智谱
网址:https://chatglm.cn/main/toolsCenter
智谱清言推出的Agent生成器,在提供基础智能体生成能力的同时,独具特色地支持开发者通过API调用方式灵活使用智能体。
该API广泛覆盖清言C端页面的核心功能,包括文本对话、文生图、图片解读、联网搜索、文档解析、Python代码执行及外部API调用等。
在智能体中心,热门智能体琳琅满目,既有官方精心打造的,也有个人开发者热情贡献的。这些智能体紧贴时事热点,如高考志愿填报助手便是一例,彰显了其高度的实时性和实用性。此外,分类上与其他平台相似,涵盖了工具类(搜索、修图、数据分析等)、娱乐类(搞笑、角色对话)及生活类(搭配选择)等多个领域,满足不同用户的多样化需求。
04.Agent框架总结
单智能体= 大语言模型(LLM) + 观察(obs) + 思考(thought) + 行动(act) + 记忆(mem)
多智能体=智能体 + 环境 + SOP + 评审 + 通信 + 成本
多智能体优点:
-
多视角分析问题:虽然LLM可以扮演很多视角,但会随着system prompt或者前几轮的对话快速坍缩到某个具体的视角上;
-
复杂问题拆解:每个子agent负责解决特定领域的问题,降低对记忆和prompt长度的要求;
-
可操控性强:可以自主的选择需要的视角和人设;
-
开闭原则:通过增加子agent来扩展功能,新增功能无需修改之前的agent;
-
(可能)更快的解决问题:解决单agent并发的问题;
缺点:
-
成本和耗时的增加;
-
交互更复杂、定制开发成本高;
-
简单的问题single Agent也能解决;
多智能体能解决的问题:
-
解决复杂问题;
-
生成多角色交互的剧情;
Multi-Agent并不是Agent框架的终态,Multi-Agent框架是当前有限的LLM能力背景下的产物,更多还是为了解决当前LLM的能力缺陷,通过LLM多次迭代、弥补一些显而易见的错误,不同框架间仍然存在着极高的学习和开发成本。随着LLM能力的提升,未来的Agent框架肯定会朝着更加的简单、易用的方向发展。
05.能做什么
▐ 可能的方向
游戏场景(npc对话、游戏素材生产)、内容生产、私域助理、OS级别智能体、部分工作的提效
▐ Multi-Agent框架
多agent应该像人类的大脑一样,分工明确、又能一起协作,比如,大脑有负责视觉、味觉、触觉、行走、平衡,甚至控制四肢行走的区域都不一样。
参考MetaGPT和AutoGen生态最完善的两个Multi-Agent框架,可以从以下几个角度出发:
环境&通讯:Agent间的交互,消息传递、共同记忆、执行顺序,分布式agent,OS-agent
SOP:定义SOP,编排自定义Agent
评审:Agent健壮性保证,输入输出结果解析
成本:Agent间的资源分配
Proxy:自定义proxy,可编程、执行大小模型
▐ Single Agent框架
执行架构优化:论文数据支撑
CoT to XoT,从一个thought一步act到一个thought多个act,从链式的思考方式到多维度思考;
长期记忆的优化:
具备个性化能力的agent,模拟人的回想过程,将长期记忆加入agent中;
多模态能力建设:
agent能观察到的不仅限于用户输入的问题,可以加入包括触觉、视觉、对周围环境的感知等;
自我思考能力:主动提出问题,自我优化;
部署:Agent以及workflow的配置化及服务化,更长远的还需要考虑分布式部署
监控:Multi-Agent可视化、能耗与成本监控
RAG:解决语义孤立问题
评测:agent评测、workflow评测、AgentBench
训练语料:数据标记、数据回流
业务选择:Copilot 还是 Agent ?Single Agent 还是Multi-Agent?
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。
作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。
![](https://img-blog.csdnimg.cn/img_convert/23bf04052816374301aaa986640ec4b7.jpeg)