作业链接:
Tutorial/agent/homework.md at camp2 · InternLM/Tutorial · GitHub
部署参考链接:
Tutorial/agent/lagent.md at camp2 · InternLM/Tutorial · GitHub
环境配置:
因为流程完全按照上述链接执行,不copy代码了,简述流程
1. 创建lagent文件夹
2. 配置conda环境
3。 安装Lagent 和 AgentLego 和相关依赖
4. 启动lmdeploy服务
lmdeploy serve api_server /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-7b \
--server-name 127.0.0.1 \
--model-name internlm2-chat-7b \
--cache-max-entry-count 0.1
5. 调用Lagent Web Demo
cd /root/agent/lagent/examples
streamlit run internlm2_agent_web_demo.py --server.address 127.0.0.1 --server.port 7860
在网页端,我们可以调用简单的服务