第二课：轻松玩转书生·浦语大模型趣味 Demo｜笔记｜作业

视频链接：轻松玩转书生·浦语大模型趣味 Demo_哔哩哔哩_bilibili

Homework - Demo

提交方式：在 CSDN 、知乎 、Github 等平台上传作业后，将链接贴至 飞书作业板 即可。

基础作业 (结营必做)

• 使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事（需截图）

进阶作业 (优秀学员必做)

• 熟悉 huggingface 下载功能，使用 huggingface_hub python 包，下载 InternLM2-Chat-7B 的 config.json 文件到本地（需截图下载过程）
• 完成 浦语·灵笔2 的 图文创作 及 视觉问答 部署（需截图）
• 完成 Lagent 工具调用 数据分析 Demo 部署（需截图）

基础作业：

1、配置基础环境，打开Intern Studio界面，点击创建开发机配置开发机系统。

开发机名称：test-demo，镜像选择如下图所示：

点击立即创建，创建完成后进入开发机test-demo

选择Terminal

输入studio-conda -o internlm-base -t demo，进行环境配置，安装成功后执行conda activate demo，进入demo env

安装后续使用的python包
pip install huggingface-hub==0.17.3
pip install transformers==4.34 
pip install psutil==5.9.8
pip install accelerate==0.24.1
pip install streamlit==1.32.2 
pip install matplotlib==3.8.3 
pip install modelscope==1.9.5
pip install sentencepiece==0.1.99

安装完毕后，下载InternLM2-Chat-1.8B模型

打开download_mini.py，键入如下代码，保存，并执行python /root/demo/download_mini.py

打开cli_demo.py文件，键入如下代码，并执行conda activate demo
python /root/demo/cli_demo.py

当看到User >>> 时，就可以输入内容了

进阶作业：

1、熟悉 huggingface 下载功能，使用 huggingface_hub python 包，下载 InternLM2-Chat-7B 的 config.json 文件到本地（需截图下载过程）

首先执行 pip install -U huggingface_hub

vim hf_download.py 输入下图所示代码，并执行python hf_download.py

2、完成 Lagent 工具调用 数据分析 Demo 部署（需截图）

开发机调节配置，开启30% A100

进入开发机，conda activate demo , cd /root/demo

下载Lagent相关代码库，并执行源码安装

之后运行命令

配置本地 ssh 连接studio端口

输入：请解方程 2^Y=1024 之中 Y的结果

3、完成 浦语·灵笔2 的 图文创作 及 视觉问答 部署（需截图）

开发机调节配置，开启50% A100，进入开发机

1）图文创作

conda activate demo

pip install timm==0.4.12 sentencepiece==0.1.99 markdown2==2.4.10 xlsxwriter==3.1.2 gradio==4.13.0 modelscope==1.9.5

cd /root/demo/InternLM-XComposer
(demo) root@intern-studio-40018795:~/demo/InternLM-XComposer# python /root/demo/InternLM-XComposer/examples/gradio_demo_composition.py  \
> --code_path /root/models/internlm-xcomposer2-7b \
> --private \
> --num_gpus 1 \
> --port 6006

2）视觉问答

conda activate demo
cd /root/demo/InternLM-XComposer
python /root/demo/InternLM-XComposer/examples/gradio_demo_chat.py  \
> --code_path /root/models/internlm-xcomposer2-vl-7b \
> --private \
> --num_gpus 1 \
> --port 6006

另外一副图片

另外一副图片