轻松玩转书生·浦语大模型

一、书生·浦语大模型

InternLM(书生·浦语)是一个轻量的开源基于大模型的智能体。

通过Lagent框架，可以快速将大语言模型转变为多种类型的智能体。

InternLM-7B包含一个拥有70亿参数的基础模型和一个为实际场景量身定制的对话模型。该模型具有强大的知识库和推理能力。

二、通用环境配置与模型下载

三、模型运行

1、终端运行

python /root/code/InternLM/cli_demo.py

2、web demo 运行

我们切换到 VScode 中，运行 /root/code/InternLM 目录下的 web_demo.py 文件，输入以下命令后，查看本教程5.2配置本地端口后，将端口映射到本地。在本地浏览器输入 http://127.0.0.1:6006 即可。

四、 Lagent 智能体工具调用 Demo

1、环境准备

选择和第一个 InternLM 一样的镜像环境，运行以下命令安装依赖，如果上一个 InternLM-Chat-7B 已经配置好环境不需要重复安装.

# 升级pip
python -m pip install --upgrade pip

pip install modelscope==1.9.5
pip install transformers==4.35.2
pip install streamlit==1.24.0
pip install sentencepiece==0.1.99
pip install accelerate==0.24.1

 2、Lagent 安装

首先切换路径到 /root/code 克隆 lagent 仓库，并通过 pip install -e . 源码安装 Lagent

cd /root/code
git clone https://gitee.com/internlm/lagent.git
cd /root/code/lagent
git checkout 511b03889010c4811b1701abb153e02b8e94fb5e # 尽量保证和教程commit版本一致
pip install -e . # 源码安装

3、Demo 运行

streamlit run /root/code/lagent/examples/react_web_demo.py --server.address 127.0.0.1 --server.port 6006