这几天学习了基础岛第二节课《8G 显存玩转书生大模型 Demo》,并且使用 LMDeploy 完成 InternLM2-Chat-1.8B 模型的部署,收获颇丰。以下是实操截图:
验证开发机的conda环境
创建LMDeploy
激活 LMDeploy
在LMDeploy上加载InternLM2-Chat-1.8B 模型并对话
InternLM2-Chat-1.8B 生成 300 字小故事
这是玩转书生大模型 Demo的主要过程,请大佬指正
#第三期实战营-基础岛-作业2
于 2024-07-25 21:30:20 首次发布