书生·浦语LLM 第六节课笔记

智能体Lagent

Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。

AgentLego 是一个提供了多种开源工具 API 的多模态工具包，旨在像是乐高积木一样，让用户可以快速简便地拓展自定义工具，从而组装出自己的智能体。通过 AgentLego 算法库，不仅可以直接使用多种工具，也可以利用这些工具，在相关智能体框架（如 Lagent，Transformers Agent 等）的帮助下，快速构建可以增强大语言模型能力的智能体。

配置环境：

mkdir -p /root/agent
studio-conda -t agent -o pytorch-2.1.2

环境配置成功：

安装两者

源码安装，略

• Lagent：安装方式 — Lagent
• AgentLego：安装 — AgentLego 0.2.0 文档

pip安装

cd /root/agent
conda activate agent
git clone https://gitee.com/internlm/lagent.git
cd lagent && git checkout 581d9fb && pip install -e . && cd ..
git clone https://gitee.com/internlm/agentlego.git
cd agentlego && git checkout 7769e0d && pip install -e . && cd ..

conda activate agent
pip install lmdeploy==0.3.0

安装Lagent和AgentLego和依赖关系正常：

cd /root/agent
git clone -b camp2 https://gitee.com/internlm/Tutorial.git

Lagent实践

Tutorial/agent/lagent.md at camp2 · InternLM/Tutorial · GitHub

vscode里运行

conda activate agent
lmdeploy serve api_server /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-7b \
                            --server-name 127.0.0.1 \
                            --model-name internlm2-chat-7b \
                            --cache-max-entry-count 0.1

Lagent Web Demo启动

conda activate agent
cd /root/agent/lagent/examples
streamlit run internlm2_agent_web_demo.py --server.address 127.0.0.1 --server.port 7860

但我在vscode里终端启动不了：

ssh -CNg -L 7860:127.0.0.1:7860 -L 23333:127.0.0.1:23333 root@ssh.intern-ai.org.cn -p 你的 ssh 端口号

接下来在本地的浏览器页面中打开http://localhost:7860以使用Lagent Web Demo。首先输入模型IP为127.0.0.1:23333，在输入完成后按回车键以确认。并选择插件为ArxivSearch，以让模型获得在arxiv上搜索论文的能力。