Lagent 自定义你的 Agent 智能体

一、Lagent 介绍

Lagent (https://github.com/InternLM/lagent)是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。

Lagent 目前已经支持了包括 AutoGPT、ReAct 等在内的多个经典智能体范式，也支持了如下工具：

• Arxiv 搜索
• Bing 地图
• Google 学术搜索
• Google 搜索
• 交互式 IPython 解释器
• IPython 解释器
• PPT
• Python 解释器

其基本结构如下所示：

二、环境配置

git clone https://github.com/InternLM/lagent.git cd lagent &&  pip install -e . 

其他依赖项参考readme进行配置。请注意lmdeploy的版本，其他版本可能会报错：

pip install lmdeploy==0.5.2

三、Lagent Web Demo 使用

首先，我们先使用 LMDeploy 部署 InternLM2.5-7B-Chat，并启动一个 API Server。

lmdeploy serve api_server /share/new_models/Shanghai_AI_Laboratory/internlm2_5-7b-chat --model-name internlm2_5-7b-chat

然后，我们在另一个窗口中启动 Lagent 的 Web Demo

streamlit run examples/internlm2_agent_web_demo.py

在等待两个 server 都完全启动（如下图所示）后，我们在 本地 的 PowerShell 中输入如下指令来进行端口映射：

ssh -CNg -L 8501:127.0.0.1:8501 -L 23333:127.0.0.1:23333 root@ssh.intern-ai.org.cn -p <你的 SSH 端口号>

接下来，在本地浏览器中打开 localhost:8501，并修改模型名称一栏为 internlm2_5-7b-chat，修改模型 ip一栏为127.0.0.1:23333。输入后需要按下回车以确认！

然后，我们在插件选择一栏选择 ArxivSearch，并输入指令“帮我搜索一下 MindSearch 论文”。

四、基于 Lagent 自定义智能体

1.使用 Lagent 自定义工具主要分为以下几步：

继承 BaseAction 类
实现简单工具的 run 方法；或者实现工具包内每个子工具的功能
简单工具的 run 方法可选被 tool_api 装饰；工具包内每个子工具的功能都需要被 tool_api 装饰使用 Lagent 自定义工具主要分为以下几步：

2.定义一个获取当前时间的工具类

touch lagent/actions/magicmakerdatetimer.py

import json
import requests

from lagent.actions.base_action import BaseAction, tool_api
from lagent.actions.parser import BaseParser, JsonParser
from lagent.schema import ActionReturn, ActionStatusCode
from datetime import datetime

class DateTimer(BaseAction):
    def __init__(self):
        super().__init__()
    
    @tool_api
    def get_current_datetime(self) -> dict:
        # 获取当前日期和时间
        current_datetime = datetime.now()
        formatted_datetime = current_datetime.strftime("%Y-%m-%d %H:%M:%S")
        return {'datetime': formatted_datetime}

3.适配工具

修改lagent/examples/internlm2_agent_web_demo.py 来适配我们的自定义工具

导入包：from lagent.actions.datetimer import DateTimer

在action_list里面加入自定义的工具：

class SessionState:

    def init_state(self):
        """Initialize session state variables."""
        st.session_state['assistant'] = []
        st.session_state['user'] = []

        action_list = [
            ArxivSearch(),
            MagicMaker(),
            DateTimer(),
        ]

4.根据第三部分介绍的内容启动 Web Demo 

自定义工具被正常调用