书生浦语大模型实战营第二期 第二次课笔记

这节课主要演示了几个有趣的demo

轻松玩转书生·浦语大模型趣味Demo

 GitHub仓库链接

1. 趣味Demo任务列表
本课程包含以下四个主要内容的实践：
- 部署InternLM2-Chat-1.8B模型进行智能对话
- 部署实战营优秀作品八戒-Chat-1.8B模型
- 通过InternLM2-Chat-7B运行Lagent智能体Demo
- 实践部署浦语·灵笔2模型

2. 部署InternLM2-Chat-1.8B模型进行智能对话
2.1 配置基础环境
- 打开InternStudio界面，创建开发机并选择Cuda11.7-conda镜像。
- 在新创建的conda环境中安装必要的环境包。

2.2 下载InternLM2-Chat-1.8B模型
- 创建文件夹并编写脚本使用modelscope.hub.snapshot_download下载模型。

2.3 运行cli_demo
- 编写Python脚本使用transformers库加载模型和分词器。
- 启动交互式聊天界面并进行智能对话。

3. 实战：部署实战营优秀作品八戒-Chat-1.8B模型
3.1 简单介绍
- 介绍八戒-Chat-1.8B、Chat-嬛嬛-1.8B、Mini-Horo-巧耳等实战营优秀作品。
- 提供模型链接供参考。

3.2 配置基础环境
- 使用git命令获取Demo文件。

3.3 下载运行Chat-八戒Demo
- 在Web IDE中运行bajie_download.py下载模型。
- 使用streamlit运行bajie_chat.py并进行智能对话。

这猪猪感觉还得训练，不太聪明的样子哈哈哈！所以他觉得自己到底打不打得过孙悟空？

4. 实战：使用Lagent运行InternLM2-Chat-7B模型
4.1 初步介绍Lagent
- Lagent是一个基于大语言模型的智能体框架。
- 介绍Lagent的特性，如流式输出、接口统一、文档全面升级等。

4.2 配置基础环境
- 在InternStudio中调整配置并使用git下载Lagent代码库。

4.3 使用Lagent运行InternLM2-Chat-7B模型
- 构造软链接快捷访问方式。
- 运行InternLM2-Chat-7B模型的智能体Demo。

5. 实战：实践部署浦语·灵笔2模型
5.1 初步介绍XComposer2
- XComposer2是用于图文写作的工具。

5.2 配置基础环境
- 安装必要的环境包。

5.3 图文写作实战
- 启动InternLM-XComposer进行图文写作。

5.4 图片理解实战
- 启动InternLM-XComposer2-vl进行图片理解。