闯关任务
任务描述:8G 显存玩转书生大模型 Demo
任务文档:
完成结果
- 使用 LMDeploy 完成 InternLM2-Chat-1.8B 模型的部署,并生成 300 字小故事,记录复现过程并截图。
登陆浦源的Intern-Studio,并进入开发机:
安装 LMDeploy:
pip install lmdeploy
实现加载模型以及推理脚本:
最终模型结果为:
任务描述:8G 显存玩转书生大模型 Demo
任务文档:
登陆浦源的Intern-Studio,并进入开发机:
安装 LMDeploy:
pip install lmdeploy
实现加载模型以及推理脚本:
最终模型结果为: