轻松玩转书生·浦语大模型趣味 Demo
浦语·灵笔是基于书生·浦语大语言模型研发的视觉-语言大模型,提供出色的图文理解和创作能力,结合了视觉和语言的先进技术,能够实现图像到文本、文本到图像的双向转换。使用浦语·灵笔大模型可以轻松的创作一篇图文推文,也能够轻松识别一张图片中的物体,并生成对应的文本描述。
一、浦语·灵笔图文理解创作 Demo
使用 InternStudio 中的 A100(1/4) * 2 机器和 internlm-xcomposer-7b 模型部署一个图文理解创作 Demo 。
二、步骤
1.环境准备
1、首先在 InternStudio 上选择 A100(1/4)*2 的配置。如下图所示:
2、打开租用服务器的“进入开发机”;
3、页面的左上角可以切换 JupyterLab、终端和 VScode
在这里插入图片描述
4、进入VScode,打开底部终端
5、输入 bash
6、运行以下代码(预计5-10分钟)
代码如下(示例):
代码如下(示例):
/root/share/install_conda_env_internlm_base.sh xcomposer-demo
conda activate xcomposer-demo
pip install transformers==4.33.1 timm==0.4.12 sentencepiece==0.1.99 gradio==3.44.4 markdown2==2.4.10 xlsxwriter==3.1.2 einops accelerate
2.模型下载
1、在 /root/model 路径下新建 download.py 文件并在其中输入以下内容
import torch
from modelscope import snapshot_download, AutoModel, AutoTokenizer
import os
model_dir = snapshot_download('Shanghai_AI_Laboratory/internlm-xcomposer-7b', cache_dir='/root/model', revision='master')
2、代码如下(示例):
python /root/model/download.py
mkdir -p /root/model/Shanghai_AI_Laboratory
cp -r /root/share/temp/model_repos/internlm-xcomposer-7b /root/model/Shanghai_AI_Laboratory
cd /root/code
git clone https://gitee.com/internlm/InternLM-XComposer.git
cd /root/code/InternLM-XComposer
git checkout 3e8c79051a1356b9c388a6447867355c0634932d
2.demo运行
cd /root/code/InternLM-XComposer
python examples/web_demo.py \
--folder /root/model/Shanghai_AI_Laboratory/internlm-xcomposer-7b \
--num_gpus 1 \
--port 6006
将端口映射到本地。在本地浏览器输入 http://127.0.0.1:6006 即可
若已完成ssh连接,则只需要在本地终端输入以下指令
ssh -CNg -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p 33090
33090 需要更改为InternStudio创建的服务器的SSH连接中的端口
总结
打开后如下界面,但是我的提交后没有反应,暂时没有找到原因