使用 Lagent 自定义一个智能体,并使用 Lagent Web Demo 成功部署与调用
Lagent 介绍
Lagent 是一个轻量级开源智能体框架,旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。
环境配置
开发机选择 30% A100,镜像选择为 Cuda12.2-conda。
配置环境后通过源码安装的方式安装 lagent
Lagent Web Demo 使用
首先,使用 LMDeploy 部署 InternLM2.5-7B-Chat,并启动一个 API Server。
在另一个窗口中启动 Lagent 的 Web Demo
在等待两个 server 都完全启动后,在 本地 的 PowerShell 中进行端口映射
在本地浏览器中打开 localhost:8501
,并修改模型名称一栏为 internlm2_5-7b-chat
,修改模型 ip一栏为127.0.0.1:23333
在插件选择一栏选择 ArxivSearch
,并输入指令“帮我搜索一下 MindSearch 论文”,可以看到,模型已经回复了相关信息:
终端信息如下:
基于 Lagent 自定义智能体
实现一个调用 MagicMaker API 以完成文生图的功能
先来创建工具文件 magicmaker.py
修改internlm2_agent_web_demo.py
来适配我们的自定义工具
启动 Web Demo ,输入“请帮我生成一幅山水画”,结果如下:
终端输出如下:
山水画内容:
再试一下“帮我搜索一下 MindSearch 论文”:
终端输出如下: