书生·浦语大模型实战营 学习笔记 第二课

目录

1. 主要内容

1. 基础实战：部署InternLM2-Chat-1.8B

2. 基础实战: 部署八戒-Chat-1.8B模型

3. 进阶实战：使用Lagent运行InternLM2-Chat-7B模型

4. 进阶实战：部署浦语·灵笔2模型

1） 图文写作实战

2）图文理解实战

---

这一讲主要聚焦如何进行demo实战，具体tutorial参考Tutorial/helloworld/hello_world.md at camp2 · InternLM/Tutorial · GitHub

1. 主要内容

基础训练：

1）实战部署InternLM2-Chat-1.8B，以本地成功部署为实现目标

2）实战部署八戒-Chat-1.8B，旨在学习如何部署自定义模型，如何实现本地端口映射

进阶训练：

1）运行Lagent智能体demo （以InternLM2-Chat-7B为基础），使用软连接，体验智能体在数据分析下的应用效果

2）实践灵笔InternLM-XComposer2，进行多模态实践，通过灵笔实现更强大的图文生成式写作

1. 基础实战：部署InternLM2-Chat-1.8B

配置好各种基础环境后，下载InternLM2-Chat-1.8B模型。

然后输入命令，执行demo程序，就可以等待模型加载完成了。

此时可以与模型进行交互，“请创作一个300字的小故事”，结果如下：

再来一个，哈哈

2. 基础实战: 部署八戒-Chat-1.8B模型

这种角色扮演类模型，都是运用InternLM2-Chat-1.8B模型经过微调训练的成果。以八戒这个模型举例，该模型是利用《西游记》剧本中所以关于猪八戒的台词和语句已经LLM API生成的相关数据结果，进行全量微调得到的猪八戒聊天模型。这个模型的低部署条件能够问哦后续工作降低算力门槛，却又能以较低的训练成本达到不错的角色扮演能力。

下载/运行Chat-八戒Demo以后，需要对端口环境配置本地PowerShell。配置完成后打开http://127.0.0.1:6006等待加载完成即可进行对话（加载确实有点慢）

八戒老哥确实很健谈哈哈哈！

3. 进阶实战：使用Lagent运行InternLM2-Chat-7B模型

Lagent是一个轻量级的、开源的基于大语言模型的智能体框架，支持用户快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。

4. 进阶实战：部署浦语·灵笔2模型

浦语·灵笔2是基于书生·浦语2大语言模型研发的突破性图文多模态大模型，具有非凡的图文写作和图像理解能力，具有：

1. 自由指令输入的图文写作能力，支持包括大纲、文章细节要求、参考图片等等图文指令输入

2. 准确的图文问题理解能力，可以准确回复各种图文问答难题，在识别、感知、细节描述、视觉推理等能力上表现惊人

3. 接触的综合能力，在部分评测中甚至超过GPT-4V和GeminiPro。

1） 图文写作实战

加载Xcomposer2，并给定创作图文并茂文章的输入：

稍作等待，就可以生成不少于800字的图文并茂的长文章了：

等等。。（文章没全部截完）

2）图文理解实战

尝试了一下多模态对话，输入了一张在加拿大秋天拍摄的照片，请分析图中内容，以下是结果：