1.创建开发机,选择镜像为 Cuda12.2-conda,并选择 GPU 为30% A100。
2.建立agent文件夹,并配置虚拟环境
studio-conda -t agent -o pytorch-2.1.2
3.安装 Lagent 和 AgentLego以及其他依赖的安装包
cd /root/agent
conda activate agent
git clone https://gitee.com/internlm/lagent.git
cd lagent && git checkout 581d9fb && pip install -e . && cd ..
git clone https://gitee.com/internlm/agentlego.git
cd agentlego && git checkout 7769e0d && pip install -e . && cd ..
conda activate agent
pip install lmdeploy==0.3.0
cd /root/agent
git clone -b camp2 https://gitee.com/internlm/Tutorial.git
4.Lagent相关操作
4.1使用 LMDeploy 启动一个 api_server
conda activate agent
lmdeploy serve api_server /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-7b \
--server-name 127.0.0.1 \
--model-name internlm2-chat-7b \
--cache-max-entry-count 0.1
4.2新建终端
本地ssh连接输入密码时,密码不会显示,输完直接回车便好
4.3 打开http://localhost:7860 以使用 Lagent Web Demo。首先输入模型 IP 为 127.0.0.1:23333,在输入完成后按下回车键以确认。并选择插件为 ArxivSearch,最后与模型进行对话
5.AgentLego
5.1 下载图片
5.2 下载mmdet
conda activate agent
pip install openmim==0.3.9
mim install mmdet==3.3.0
时间确实比较长
5.3 创建并修改direct_use.py文件
5.4 执行direct_use.py文件