书生·浦语大模型

---

轻松玩转书生·浦语大模型趣味 Demo

浦语·灵笔是基于书生·浦语大语言模型研发的视觉-语言大模型，提供出色的图文理解和创作能力，结合了视觉和语言的先进技术，能够实现图像到文本、文本到图像的双向转换。使用浦语·灵笔大模型可以轻松的创作一篇图文推文，也能够轻松识别一张图片中的物体，并生成对应的文本描述。

---

一、浦语·灵笔图文理解创作 Demo

使用 InternStudio 中的 A100(1/4) * 2 机器和 internlm-xcomposer-7b 模型部署一个图文理解创作 Demo 。

二、步骤

1.环境准备

1、首先在 InternStudio 上选择 A100(1/4)*2 的配置。如下图所示：
2、打开租用服务器的“进入开发机”；
3、页面的左上角可以切换 JupyterLab、终端和 VScode
在这里插入图片描述

4、进入VScode,打开底部终端
5、输入 bash
6、运行以下代码（预计5-10分钟）
代码如下（示例）：

代码如下（示例）：

/root/share/install_conda_env_internlm_base.sh xcomposer-demo
conda activate xcomposer-demo
pip install transformers==4.33.1 timm==0.4.12 sentencepiece==0.1.99 gradio==3.44.4 markdown2==2.4.10 xlsxwriter==3.1.2 einops accelerate

2.模型下载

1、在 /root/model 路径下新建 download.py 文件并在其中输入以下内容

import torch
from modelscope import snapshot_download, AutoModel, AutoTokenizer
import os
model_dir = snapshot_download('Shanghai_AI_Laboratory/internlm-xcomposer-7b', cache_dir='/root/model', revision='master')

2、代码如下（示例）：

python /root/model/download.py 
mkdir -p /root/model/Shanghai_AI_Laboratory
cp -r /root/share/temp/model_repos/internlm-xcomposer-7b /root/model/Shanghai_AI_Laboratory
cd /root/code
git clone https://gitee.com/internlm/InternLM-XComposer.git
cd /root/code/InternLM-XComposer
git checkout 3e8c79051a1356b9c388a6447867355c0634932d  

---

2.demo运行

cd /root/code/InternLM-XComposer
python examples/web_demo.py  \
    --folder /root/model/Shanghai_AI_Laboratory/internlm-xcomposer-7b \
    --num_gpus 1 \
    --port 6006

将端口映射到本地。在本地浏览器输入 http://127.0.0.1:6006 即可
若已完成ssh连接，则只需要在本地终端输入以下指令
ssh -CNg -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 33090
33090 需要更改为InternStudio创建的服务器的SSH连接中的端口

总结

打开后如下界面，但是我的提交后没有反应，暂时没有找到原因