书生·浦语(InternLM)-大模型实战营-第二期-学习笔记2

实战营内容：介绍书生浦语全链条开源开放体系，有理论有实战有云GPU有同学和兴趣小组

项目github：https://github.com/InternLM/InternLM/

视频链接：轻松玩转书生·浦语大模型趣味 Demo_哔哩哔哩_bilibili

---------------------------------------------------------------------------------

一、Demo实战任务内容

1.1 实战部署InternLM2-Chat-1.8B

创建并熟悉开发机，下载InternLM2-Chat-1.8B模型，尝试部署本地Client Demo

1.2. 实战部署优秀作品 八戒-Chat-1.8B

尝试第一期实战营的优秀作品，了解如何部署自定义模型

1.3 实战进阶 运行Lagent智能体Demo

进一步了解Lagent智能体，部署InternLM2-Chat-7B，体验与智能体Demo的聊天互动

1.4 实战进阶 灵笔 InternLM-XComposer2

部署InternLM-XComposer2.浅尝视觉问答和图文生成Demo

1.5 书生浦语大模型SIG兴趣小组

 二、实战部署InternLM2-Chat-1.8B

操作文档：Tutorial/helloworld/hello_world.md at camp2 · InternLM/Tutorial · GitHub

2.1 申请开发机+配环境

studio-conda -o internlm-base -t demo      #调用/share/install_conda_env.sh自动配置demo虚环境

2.2 下载模型

用提供的modelscope脚本

2.3 cli运行模型

用提供的cli脚本

小tips:

SecureCRT可能出现 backspace发送^H情况，打勾如下两个地方就能解决

三、实战部署优秀作品

八戒-Chat-1.8B、Chat-嬛嬛-1.8B、Mini-Horo-巧耳（实战营优秀作品）

• 八戒-Chat-1.8B：魔搭社区
• Chat-嬛嬛-1.8B：OpenXLab浦源 - 模型中心
• Mini-Horo-巧耳：OpenXLab浦源 - 模型中心

3.1 下载代码和模型+streamlit运行+本地ssh转发

四、使用Lagent运行InternLM-Chat-7B模型

需要30% A100

下载Lagent代码，修改其中的模型文件路径 指向/share中对应路径，streamlit运行，ssh映射。

五、实践部署浦语灵笔2模型

需要50% A100

下载XComposer代码，修改其中的模型文件路径 指向/share中对应路径，streamlit运行，ssh映射。

5.1 图文写作实战

5.2 图文理解实战

另一个XCompose模型，不同范例脚本。