【书生大模型实战营第三期】基础岛 第2关 8G 显存玩转书生大模型 Demo

欢迎大家参与第三期书生大模型实战营！！！

1. 基础任务

        任务描述：使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事，记录复现过程并截图。

        1. 首先创建开发机，并建立远程链接，具体操作参考另一篇博文。

        2. 创建成功后，在 VSCode 终端里激活官方已给我们安装好的虚拟环境 /root/share/pre_envs/icamp3_demo。然后用 Linux 指令在根目录下创建一个 demo 文件夹和一个名为 cli_demo 的 .py 文件，详见下图。

        3. 将官方参考文档里的给定代码复制进去。

        4. 运行该文件，待终端出现如下内容，即表明模型启动成功（一开始需要下载模型）。

        5. 根据任务要求，让模型生成一个300字的小故事，因为代码里设置了文本的流式输出，所以模型输出效果相当的好。