作业要求使用 LMDeploy 以本地对话、网页Gradio、API服务中的一种方式部署InternLM-Chat-7B 模型,生成 300 字的小故事(需截图)
参考链接:https://github.com/InternLM/tutorial/blob/main/lmdeploy/lmdeploy.md
首先配置安装环境:
离线转换:
命令行本地对话:
作业要求使用 LMDeploy 以本地对话、网页Gradio、API服务中的一种方式部署InternLM-Chat-7B 模型,生成 300 字的小故事(需截图)
参考链接:https://github.com/InternLM/tutorial/blob/main/lmdeploy/lmdeploy.md
首先配置安装环境:
离线转换:
命令行本地对话: