轻松玩转书生·浦语大模型趣味 Demo 笔记二&作业二

本次课程由任宇鹏老师带大家玩转书生·浦语大模型趣味 Demo。分别是：

• 部署 InternLM2-Chat-1.8B 模型进行智能对话
• 部署实战营优秀作品 八戒-Chat-1.8B 模型
• 通过 InternLM2-Chat-7B 运行 Lagent 智能体 Demo
• 实践部署 浦语·灵笔2 模型

课程视频：https://www.bilibili.com/video/BV1AH4y1H78d/

课程文档：https://github.com/InternLM/Tutorial/blob/camp2/helloworld/hello_world.md

这节课布置如下作业：

基础作业：

• 使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事（需截图）

进阶作业：

• 熟悉 huggingface 下载功能，使用 huggingface_hub python 包，下载 InternLM2-Chat-7B 的 config.json 文件到本地（需截图下载过程）
• 完成 浦语·灵笔2 的 图文创作 及 视觉问答 部署（需截图）
• 完成 Lagent 工具调用 数据分析 Demo 部署（需截图）

1  部署 InternLM2-Chat-1.8B 模型进行智能对话

1.1 配置基础环境

2.2 下载 InternLM2-Chat-1.8B 模型

2.3  使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事

2  部署实战营优秀作品 八戒-Chat-1.8B 模型

3  通过 InternLM2-Chat-7B 运行 Lagent 智能体 Demo 

4  实践部署 浦语·灵笔2 模型

4.1 图文创作

4.2 视觉问答 

5  使用 huggingface_hub python 包，下载 InternLM2-Chat-7B 的 config.json 文件到本地

---

1  部署 InternLM2-Chat-1.8B 模型进行智能对话

1.1 配置基础环境

平台：https://studio.intern-ai.org.cn/console/dashboard

对于 Intern Studio 平台具体使用见上面的课程文档，在这里不介绍了，直接进入正题。

使用如下命令，创建名为demo的虚拟环境。

studio-conda -o internlm-base -t demo

 创建成功界面如下图所示，使用

conda activate demo

进入demo虚拟环境。

输入如下命令，创建环境依赖包。

pip install huggingface-hub==0.17.3
pip install transformers==4.34 
pip install psutil==5.9.8
pip install accelerate==0.24.1
pip install streamlit==1.32.2 
pip install matplotlib==3.8.3 
pip install modelscope==1.9.5
pip install sentencepiece==0.1.99

 2.2 下载 InternLM2-Chat-1.8B 模型

创建如下路径以及文件cli_demo.py、download_mini.py创建。

输入如下代码块，完成 InternLM2-Chat-1.8B 模型下载。

 2.3  使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事

运行cli_demo，完成使用 InternLM2-Chat-1.8B 模型生成 300 字的小故事

2  部署实战营优秀作品 八戒-Chat-1.8B 模型

下载运行 Chat-八戒 Demo

3  通过 InternLM2-Chat-7B 运行 Lagent 智能体 Demo 

一些环境配置

 

 完成 Lagent 工具调用 数据分析 Demo 部署，如下图所示。

4  实践部署 浦语·灵笔2 模型

4.1 图文创作

 4.2 视觉问答 

5  使用 huggingface_hub python 包，下载 InternLM2-Chat-7B 的 config.json 文件到本地。