【书生·浦语大模型实战营】第6节：Lagent & AgentLego 智能体应用搭建（笔记及作业）

【书生·浦语大模型实战营】第6节：Lagent & AgentLego 智能体应用搭建（笔记及作业）

笔记

视频：https://www.bilibili.com/video/BV1Xt4217728/?spm_id_from=333.788&vd_source=724260feabc8c4fa14ba533aaff72464

文档： https://github.com/InternLM/Tutorial/tree/camp2/agent

智能体介绍

三种常见的智能体范式

Lagent和AgentLego介绍

作业

配置环境

Cuda12.2-conda

studio-conda -t agent -o pytorch-2.1.2

安装Lagent和AgentLego

# 源码安装
mkdir -p /root/agent
cd /root/agent
conda activate agent
git clone https://gitee.com/internlm/lagent.git
cd lagent && git checkout 581d9fb && pip install -e . && cd ..
git clone https://gitee.com/internlm/agentlego.git
cd agentlego && git checkout 7769e0d && pip install -e . && cd ..

安装依赖

conda activate agent
pip install lmdeploy==0.3.0

准备Tutorial

cd /root/agent
git clone -b camp2 https://gitee.com/internlm/Tutorial.git

完成 Lagent Web Demo 使用

在终端中启动api server

conda activate agent
lmdeploy serve api_server /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-7b \
                            --server-name 127.0.0.1 \
                            --model-name internlm2-chat-7b \
                            --cache-max-entry-count 0.1

新建终端，启动web demo

conda activate agent
cd /root/agent/lagent/examples
streamlit run internlm2_agent_web_demo.py --server.address 127.0.0.1 --server.port 7860

运行

完成 AgentLego 直接使用部分

下载demo文件及mmdet

cd /root/agent
wget http://download.openmmlab.com/agentlego/road.jpg

conda activate agent
pip install openmim==0.3.9
mim install mmdet==3.3.0

新建direct_use.py并输入以下内容以使用目标检测工具

运行

python /root/agent/direct_use.py

原图

结果

完成 AgentLego WebUI 使用

server

启动WebUI

使用 Lagent 实现自定义工具并完成调用

server

conda activate agent
lmdeploy serve api_server /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-7b \
                            --server-name 127.0.0.1 \
                            --model-name internlm2-chat-7b \
                            --cache-max-entry-count 0.1

启动

export WEATHER_API_KEY={API KEY}
# 比如 export WEATHER_API_KEY=1234567890abcdef
conda activate agent
cd /root/agent/Tutorial/agent
streamlit run internlm2_weather_web_demo.py --server.address 127.0.0.1 --server.port 7860