一、Lagent的web demo & 自定义工具:
1. web Demo
(重要步骤笔记:首先输入模型 IP 为 127.0.0.1:23333,在输入完成后按下回车键以确认。并选择插件为 ArxivSearch,以让模型获得在 arxiv 上搜索论文的能力。)
2. 自定义工具
Lagent 中关于工具部分的介绍文档:
使用 Lagent 自定义工具主要分为以下几步:
- 继承 BaseAction 类
- 实现简单工具的 run 方法(在天气服务中,代码就是写了个爬虫);或者实现工具包内每个子工具的功能
- 简单工具的 run 方法可选被 tool_api 装饰;工具包内每个子工具的功能都需被 tool_api 装饰
- 天气服务部署阶段有三步骤:终端1启动lmdeloy api-sever;终端2启动web demo(这一步需要天气服务的key);本地端口映射。
- 在浏览器上访问天气服务。
二、AgentLego的webUI & 自定义工具:
1. 直接使用 AgentLego:完成目标检测
# load tool
tool = load_tool('ObjectDetection', device='cuda') (就这用)
2. agentlego作为智能体工具使用
实验1 —— 调用webui
实验2 —— 自定义工具
在本节中,将基于 AgentLego 构建自己的自定义工具。AgentLego 在这方面提供了较为详尽的文档,文档地址为 :自定义工具 — AgentLego 0.2.0 文档 。
自定义工具主要分为以下几步:
- 继承 BaseTool 类
- 修改 default_desc 属性(工具功能描述)
- 如有需要,重载 setup 方法(重型模块延迟加载)
- 重载 apply 方法(工具功能实现)
(此处应有笔记:仔细看教程中的实现的apply方法,又本质是个动态网页的爬虫和json的解析。。。)
接下来:
5. 注册新工具
6. 启动lmdeploy服务
7. Python one-cick.py
8. 浏览器访问
效果:
附:以下为学习笔记
关于Lagent:Lagent 是一个轻量级开源智能体框架,旨在让用户可以高效地构建基于大语言模型的智能体。Lagent 目前已经支持了包括 AutoGPT、ReAct 等在内的多个经典智能体范式,也支持了如下工具:
关于AgentLego:AgentLego 是一个提供了多种开源工具 API 的多模态工具包,旨在像是乐高积木一样,让用户可以快速简便地拓展自定义工具,从而组装出自己的智能体。通过 AgentLego 算法库,不仅可以直接使用多种工具,也可以利用这些工具,在相关智能体框架(如 Lagent,Transformers Agent 等)的帮助下,快速构建可以增强大语言模型能力的智能体。
总结:Lagent 是一个智能体框架,而 AgentLego 与大模型智能体并不直接相关,而是作为工具包,在相关智能体的功能支持模块发挥作用。二者关系如下图: