1 Lagent Web Demo的部署以及使用
在 vscode terminal 激活环境并启动api_server:
conda activate agent
lmdeploy serve api_server /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-7b
–server-name 127.0.0.1
–model-name internlm2-chat-7b
–cache-max-entry-count 0.1
新建一个terminal ,启动 Lagent Web Demo
conda activate agent
cd /root/agent/lagent/examples
streamlit run internlm2_agent_web_demo.py --server.address 127.0.0.1 --server.port 7860
打开本地powershell,建立映射
ssh -CNg -L 7860:127.0.0.1:7860 -L 23333:127.0.0.1:23333 root@ssh.intern-ai.org.cn -p 你的 ssh 端口号
如果第一次打开页面显示如下
可以重新刷新几次,就会有正确的界面,一定要注意模型IP 要改成127.0.0.1:23333
作业2:AgentLego的使用
1 前期的环境以及文件准备
cd /root/agent
wget http://download.openmmlab.com/agentlego/road.jpg
conda activate agent
pip install openmim0.3.9
mim install mmdet3.3.0
新建文件touch /root/agent/direct_use.py,并执行,可以看到
同时,新文件显示如下:
原图是这样的: