【书生大模型实战营（暑假场）进阶任务二 Lagent 自定义你的 Agent 智能体

进阶任务二 Lagent 自定义你的 Agent 智能体

• 任务
• 文档
• 视频
• Lagent 的中文文档
• Lagent动作

1 认识 Lagent 智能体框架

Lagent 是书生浦语团队开发的一个轻量级开源智能体 AI Agent 框架。可以支持高效构建基于大语言模型的的智能体，并提供多种典型工具以增强大语言模型的能力。

Lagent 目前支持 AutoGPT、ReAct 等在内的多个经典智能体范式，并支持了如下工具：

• Arxiv 搜索
• Bing 地图
• Google 学术搜索
• Google 搜索
• 交互式 IPython 解释器
• IPython 解释器
• PPT
• Python 解释器

基本架构如图所示

2 Lagent 搭建 Agent 实战

2.1 环境配置和工具安装

首先创建镜像为 Cuda12.2-conda 的 30% A100 开发机。然后，为 Lagent 配置可用环境：

# 创建环境
conda create -n agent_camp3 python=3.10 -y
# 激活环境
conda activate agent_camp3
# 安装 torch
conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia -y
# 安装其他依赖包
pip install termcolor==2.4.0
pip install lmdeploy==0.5.2
pip install streamlit

注意：这一关基础任务的文档存在不少环境依赖问题，请按照上面的指令准备依赖，而非官方任务文档。

配置好环境后，通过源码安装的方式安装 Lagent 框架

# 创建目录以存放代码
mkdir -p /root/agent_camp3
cd /root/agent_camp3
git clone https://github.com/InternLM/lagent.git
cd lagent && git checkout 81e7ace && pip install -e . && cd ..

2.2 Lagent Web Demo 体验

为使用 Lagent 的 Web Demo 体验 InternLM2.5-7B-Chat 的 Agent 能力，首先先使用 LMDeploy 部署 InternLM2.5-7B-Chat，为一个 API Server。

conda activate agent_camp3
lmdeploy serve api_server /share/new_models/Shanghai_AI_Laboratory/internlm2_5-7b-chat --model-name internlm2_5-7b-chat

这一步之后，我们的模型已通过 lmdeploy 部署为一个 API server，效果如下

端口映射后，打开本地对应地址可以发现以下 FastAPI Server：

然后，我们可以利用 streamlit，将部署好的模型 API server 映射到一个 streamlit Web App。我们需要打开另一个终端，输入以下指令运用 steamlit 启动 Lagent 的 Web Demo：

cd /root/agent_camp3/lagent
conda activate agent_camp3
streamlit run examples/internlm2_agent_web_demo.py

端口映射后，在本地浏览器可以打开部署好的 streamlit 支持的 Lagent Web Demo，然后进行以下修改：修改模型名称一栏为 internlm2_5-7b-chat，修改模型 ip一栏为127.0.0.1:23333，修改后便可进行交互。

3 Lagent 自定义智能体 Agent 实战

Lagent 提供了多种 Agent 工具/动作，可以参考：Lagent动作。

使用 Lagent 自定义工具主要分为以下几步：

1. 继承 BaseAction 类
2. 实现简单工具的 run 方法；或者实现工具包内每个子工具的功能
3. 简单工具的 run 方法可选被 tool_api 装饰；工具包内每个子工具的功能都需要被 tool_api 装饰

下面实现一个调用 MagicMaker API 的 Agent 动作/工具以完成文生图的功能。

首先，在特定文件夹用于调用 MagicMaker API 的 python 文件：

cd /root/agent_camp3/lagent
touch lagent/actions/magicmaker.py

import json
import requests

from lagent.actions.base_action import BaseAction, tool_api
from lagent.actions.parser import BaseParser, JsonParser
from lagent.schema import ActionReturn, ActionStatusCode


class MagicMaker(BaseAction):
    styles_option = [
        'dongman',  # 动漫
        'guofeng',  # 国风
        'xieshi',   # 写实
        'youhua',   # 油画
        'manghe',   # 盲盒
    ]
    aspect_ratio_options = [
        '16:9', '4:3', '3:2', '1:1',
        '2:3', '3:4', '9:16'
    ]

    def __init__(self,
                 style='guofeng',
                 aspect_ratio='4:3'):
        super().__init__()
        if style in self.styles_option:
            self.style = style
        else:
            raise ValueError(f'The style must be one of {self.styles_option}')
        
        if aspect_ratio in self.aspect_ratio_options:
            self.aspect_ratio = aspect_ratio
        else:
            raise ValueError(f'The aspect ratio must be one of {aspect_ratio}')
    
    @tool_api
    def generate_image(self, keywords: str) -> dict:
        """Run magicmaker and get the generated image according to the keywords.

        Args:
            keywords (:class:`str`): the keywords to generate image

        Returns:
            :class:`dict`: the generated image
                * image (str): path to the generated image
        """
        try:
            response = requests.post(
                url='https://magicmaker.openxlab.org.cn/gw/edit-anything/api/v1/bff/sd/generate',
                data=json.dumps({
                    "official": True,
                    "prompt": keywords,
                    "style": self.style,
                    "poseT": False,
                    "aspectRatio": self.aspect_ratio
                }),
                headers={'content-type': 'application/json'}
            )
        except Exception as exc:
            return ActionReturn(
                errmsg=f'MagicMaker exception: {exc}',
                state=ActionStatusCode.HTTP_ERROR)
        image_url = response.json()['data']['imgUrl']
        return {'image': image_url}

然后，修改文件 /root/agent_camp3/lagent/examples/internlm2_agent_web_demo.py 以适配我们刚创建的自定义/动作工具：

1. 在 from lagent.actions import ActionExecutor, ArxivSearch, IPythonInterpreter 的下一行添加 from lagent.actions.magicmaker import MagicMaker
2. 在第27行添加 MagicMaker()

from lagent.actions import ActionExecutor, ArxivSearch, IPythonInterpreter
+ from lagent.actions.magicmaker import MagicMaker
from lagent.agents.internlm2_agent import INTERPRETER_CN, META_CN, PLUGIN_CN, Internlm2Agent, Internlm2Protocol

...
        action_list = [
            ArxivSearch(),
+             MagicMaker(),
        ]

然后想之前一样，打开另一个终端窗口，启用 Lagent 的 Web Demo：

cd /root/agent_camp3/lagent
conda activate agent_camp3
streamlit run examples/internlm2_agent_web_demo.py

同样的，端口映射后，在本地浏览器可以打开部署好的 streamlit 支持的 Lagent Web Demo，然后进行以下修改：修改模型名称一栏为 internlm2_5-7b-chat，修改模型 ip一栏为127.0.0.1:23333，修改后便可进行交互。

这个 Agent 给出了不错的绘制作品，但他对风格的把握还有待提高。