聊聊蚂蚁开源多Agent框架——muAgent

最新推荐文章于 2024-10-26 11:27:03 发布

大靠山

最新推荐文章于 2024-10-26 11:27:03 发布

阅读量887

点赞数 13

文章标签：开源深度学习人工智能机器学习语言模型自然语言处理

本文链接：https://blog.csdn.net/m0_59235245/article/details/141939687

版权

概述

CodeFuse-muAgent [1]是蚂蚁CodeFuse团队开发的Mulit Agent框架，其核心宗旨在于简化agents的标准操作程序（SOP）编排流程。

多Agents的核心关键即Agent的交互链路，也即实现SOP的关键。其核心在于如何把上一个Agent的输出给到下一个Agent的输入，其中需要涉及到llm的输出、具体action的执行以及信息的解析处理。

架构

muagent整合了一系列丰富的工具库、代码库、知识库以及沙盒环境，可支撑用户在任何领域场景都能依托muagent迅速搭建起复杂的多Agent交互应用。通过这一框架，用户能够高效地执行和处理多层次、多维度的复杂任务。

其架构图如下：每个技术点的描述如下：

Agent Base：构建了四种基本的Agent类型BaseAgent、ReactAgent、ExecutorAgent、SelectorAgent，支撑各种场景的基础活动。
Communication：通过Message和Parse Message 实体完成Agent间的信息传递，并与Memory Manager交互再Memory Pool完成记忆管理。
Prompt Manager：通过Role Handler、Doc/Tool Handler、Session Handler、Customized Handler，来自动化组装Customized 的Agent Prompt。
Memory Manager： 用于支撑 chat history 的存储管理、信息压缩、记忆检索等管理，最后通过Memory Pool在数据库、本地、向量数据库中完成存储。
Component：用于构建Agent的辅助生态组件，包括Retrieval、Tool、Action、Sandbox等。
Customized Model：支持私有化的LLM和Embedding的接入。

一个完整的多Agent生态，个人觉得，其所需的能力也就是如上的几点。

Agent Base

在Agent层面，提供四种基本的Agent类型，对这些Agent进行Role的基础设定，可满足多种通用场景的交互和使用。所有的Action都由Agent执行。

BaseAgent：基础功打得溜，问答、工具使用、代码执行样样行。
ReactAgent：标准React流，遇事不慌，标准反应流程轻松应对。
ExecutorAgent：对任务清单进行顺序执行，根据 User 或上一个Agent编排的计划，完成相关任务，排个队，挨个干！
SelectorAgent：挑三拣四，根据User 或上一个 Agent的问题选择合适的Agent，总能找到最合适的Agent回答用户需求。

相比较于AutoGen，其实也差不多，但划分粒度更清晰；尤其是Agent的编排，由专门的agent负责处理；而ReAct的功能，这里也是单独抽出来的Agent，初步来看，比AutoGen对React的支持更强。

Component

辅助生态组件更详尽，区别于AutoGen，Sandbox支持隔离的特性让辅助生态的支持更丰富强大。

Communication

多Agent的关键在Agent间的信息交互，因此communication的实现是必不可少的。AutoGen通过结转逻辑，支持信息流转；CodeFuse通过Communication组件独立实现该功能。从实现方式来看，CodeFuse应该支持的更强大。AutoGen是一个summary_method方法来定义的。

总结

之前没有了解过国内多Agent框架，因为本身也不多；从AutoGen入手对多Agent的了解，再结合CodeFuse的实现来看，多Agent的SOP更具体更模块化，不过其思想也是一致的，关键的组成部件还是那些。

总的来说，如何协调好LLM并来引导它们产生期望的输出，其本质就是将业务问题抽象并拆解到可执行的Prompt，让他们像处理业务问题一样精准执行；而业务的编排执行则由Agent实现，最终是落到了LLM上。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述