LLMs之Agent:Agentscope的简介、安装和使用方法、案例应用之详细攻略
目录
Agentscope的简介
2024年2月27日,发布Agentscope,这是一款更简单地构建基于LLM的多智能体应用。
AgentScope是一个创新的多智能体开发平台,旨在赋予开发人员使用大模型轻松构建多智能体应用的能力。
>> 高易用: AgentScope专为开发人员设计,提供了丰富的组件, 全面的文档和广泛的兼容性。同时,AgentScope Workstation提供了在线拖拉拽编程和在线小助手(copilot)功能,帮助开发者迅速上手!
>> 高鲁棒:支持自定义的容错控制和重试机制,以提高应用程序的稳定性。
>> 分布式:支持以中心化的方式构建分布式多智能体应用程序。
官网地址:AgentScope WorkStation Login Page
1、更新的日志
- [2024-07-18] AgentScope 已支持模型流式输出。请参考我们的 教程 和 流式对话样例
- [2024-07-15] AgentScope 中添加了 Mixture of Agents 算法。使用样例请参考 MoA 示例。
-
[2024-06-14] 新的提示调优(Prompt tuning)模块已经上线 AgentScope,用以帮助开发者生成和优化智能体的 system prompt。更多的细节和使用样例请参考 AgentScope 教程!
-
[2024-06-11] RAG功能现在已经整合进 AgentScope 中! 大家可以根据 简要介绍AgentScope中的RAG ,让自己的agent用上外部知识!
-
[2024-06-09] AgentScope v0.0.5 已经更新!在这个新版本中,我们开源了 AgentScope Workstation (在线版本的网址是agentscope.io)!
-
[2024-05-24] 我们很高兴地宣布 AgentScope Workstation 相关功能即将开源。我们的网站服务暂时下线。在线服务会很快升级重新上线,敬请期待...
-
[2024-05-15] 用于解析模型格式化输出的解析器模块已经上线 AgentScope!更轻松的构建多智能体应用,使用方法请参考教程。与此同时,DictDialogAgent 类和 狼人杀游戏 样例也已经同步更新!
-
[2024-05-14] 目前 AgentScope 正在进行 AgentScope Workstation & Copilot 用户体验反馈活动,需要您宝贵的意见来帮助我们改善 AgentScope 的拖拽式多智能体应用开发与 Copilot 体验。您的每一个反馈都十分宝贵,请点击 链接 参与问卷,感谢您的支持!
-
[2024-05-14] AgentScope 现已支持 gpt-4o 等 OpenAI Vision 模型! 模型配置请见链接。同时,新的样例“与gpt-4o模型对话”已上线!
-
[2024-04-30] 我们现在发布了AgentScope v0.0.4版本!
-
[2024-04-27] AgentScope Workstation上线了! 欢迎使用 Workstation 体验如何在拖拉拽编程平台 零代码搭建多智体应用,也欢迎大家通过copilot查询AgentScope各种小知识!
-
[2024-04-19] AgentScope现已经支持Llama3!我们提供了面向CPU推理和GPU推理的脚本和模型配置,一键式开启Llama3的探索,在我们的样例中尝试Llama3吧!
-
[2024-04-06] 我们现在发布了AgentScope v0.0.3版本!
-
[2024-04-06] 新的样例“五子棋”,“与ReAct智能体对话”,“与RAG智能体对话”,“分布式并行优化”上线了!
-
[2024-03-19] 我们现在发布了AgentScope v0.0.2版本!在这个新版本中,AgentScope支持了ollama(本地CPU推理引擎),DashScope和Gemini APIs。
-
[2024-03-19] 新的样例“带有@功能的自主对话”和“兼容LangChain的基础对话”上线了!
-
[2024-03-19] AgentScope的中文教程上线了!
-
[2024-02-27] 我们现在发布了AgentScope v0.0.1版本!现在,AgentScope也可以在PyPI上下载
-
[2024-02-14] 我们在arXiv上发布了论文“AgentScope: A Flexible yet Robust Multi-Agent Platform”!
2、支持的模型API
AgentScope提供了一系列ModelWrapper
来支持本地模型服务和第三方模型API。
3、支持的服务
网络搜索
数据查询
数据检索
代码执行
文件操作
文本处理
多模态生成
Agentscope的安装和使用方法
1、安装
支持的本地模型部署
AgentScope支持使用以下库快速部署本地模型服务。
AgentScope需要Python 3.9或更高版本。
注意:该项目目前正在积极开发中,建议从源码安装AgentScope。
从源码安装
- 以编辑模式安装AgentScope:
# 从github拉取源代码
git clone https://github.com/modelscope/agentscope.git
# 以编辑模式安装包
cd agentscope
pip install -e .
- 构建分布式多智能体应用需要按照以下方式安装:
# 在windows上
pip install -e .[distribute]
# 在mac上
pip install -e .\[distribute\]
使用pip
- 从pip安装的AgentScope
pip install agentscope --pre
配置
AgentScope中,模型的部署和调用是通过ModelWrapper
实现解耦的。
为了使用这些ModelWrapper
, 您需要准备如下的模型配置文件:
model_config = {
# 模型配置的名称,以及使用的模型wrapper
"config_name": "{your_config_name}", # 模型配置的名称
"model_type": "{model_type}", # 模型wrapper的类型
# 用以初始化模型wrapper的详细参数
# ...
}
以OpenAI Chat API为例,模型配置如下:
openai_model_config = {
"config_name": "my_openai_config", # 模型配置的名称
"model_type": "openai_chat", # 模型wrapper的类型
# 用以初始化模型wrapper的详细参数
"model_name": "gpt-4", # OpenAI API中的模型名
"api_key": "xxx", # OpenAI API的API密钥。如果未设置,将使用环境变量OPENAI_API_KEY。
"organization": "xxx", # OpenAI API的组织。如果未设置,将使用环境变量OPENAI_ORGANIZATION。
}
关于部署本地模型服务和准备模型配置的更多细节,请参阅我们的教程。
创建Agent
创建AgentScope内置的DialogAgent
和UserAgent
对象.
from agentscope.agents import DialogAgent, UserAgent
import agentscope
# 加载模型配置
agentscope.init(model_configs="./model_configs.json")
# 创建对话Agent和用户Agent
dialog_agent = DialogAgent(name="assistant",
model_config_name="my_openai_config")
user_agent = UserAgent()
构造对话
在AgentScope中,Message是Agent之间的桥梁,它是一个python字典(dict),包含两个必要字段name
和content
,以及一个可选字段url
用于本地文件(图片、视频或音频)或网络链接。
from agentscope.message import Msg
x = Msg(name="Alice", content="Hi!")
x = Msg("Bob", "What about this picture I took?", url="/path/to/picture.jpg")
使用以下代码开始两个Agent(dialog_agent和user_agent)之间的对话:
x = None
while True:
x = dialog_agent(x)
x = user_agent(x)
if x.content == "exit": # 用户输入"exit"退出对话
break
AgentScope前端
AgentScope 提供了一个易于使用的运行时用户界面,能够在前端显示多模态输出,包括文本、图像、音频和视频。
参考我们的教程了解更多细节。
2、使用方法
-
模型
-
对话
-
游戏
-
分布式
Agentscope的案例应用
持续更新中……