智能体Lagent
Lagent 是一个轻量级开源智能体框架,旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。
AgentLego 是一个提供了多种开源工具 API 的多模态工具包,旨在像是乐高积木一样,让用户可以快速简便地拓展自定义工具,从而组装出自己的智能体。通过 AgentLego 算法库,不仅可以直接使用多种工具,也可以利用这些工具,在相关智能体框架(如 Lagent,Transformers Agent 等)的帮助下,快速构建可以增强大语言模型能力的智能体。
配置环境:
mkdir -p /root/agent
studio-conda -t agent -o pytorch-2.1.2
环境配置成功:
安装两者
源码安装,略
- Lagent:安装方式 — Lagent
- AgentLego:安装 — AgentLego 0.2.0 文档
pip安装
cd /root/agent
conda activate agent
git clone https://gitee.com/internlm/lagent.git
cd lagent && git checkout 581d9fb && pip install -e . && cd ..
git clone https://gitee.com/internlm/agentlego.git
cd agentlego && git checkout 7769e0d && pip install -e . && cd ..
conda activate agent
pip install lmdeploy==0.3.0
安装Lagent和AgentLego和依赖关系正常:
cd /root/agent
git clone -b camp2 https://gitee.com/internlm/Tutorial.git
Lagent实践
Tutorial/agent/lagent.md at camp2 · InternLM/Tutorial · GitHub
vscode里运行
conda activate agent
lmdeploy serve api_server /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-7b \
--server-name 127.0.0.1 \
--model-name internlm2-chat-7b \
--cache-max-entry-count 0.1
Lagent Web Demo启动
conda activate agent
cd /root/agent/lagent/examples
streamlit run internlm2_agent_web_demo.py --server.address 127.0.0.1 --server.port 7860
但我在vscode里终端启动不了:
ssh -CNg -L 7860:127.0.0.1:7860 -L 23333:127.0.0.1:23333 root@ssh.intern-ai.org.cn -p 你的 ssh 端口号
接下来在本地的浏览器页面中打开http://localhost:7860以使用Lagent Web Demo。首先输入模型IP为127.0.0.1:23333,在输入完成后按回车键以确认。并选择插件为ArxivSearch,以让模型获得在arxiv上搜索论文的能力。