进入终端,配置虚拟环境,安装依赖
一、书生·浦语Cli & WebDemo[8B 但性能不俗性的InternLM2 端侧模型]
1.Cli Demo 部署 InternLM2-Chat-1.8B 模型
安装完成后,创建路径和文件并且粘贴代码
启动demo并生成 300 字小故事
2.Streamlit Web Demo 部署 InternLM2-Chat-1.8B 模型
克隆仓库到本地,启动Streamlit服务,这里需要绑定本地服务器并指定端口
在本地的 PowerShell 中进行端口映射
二、浦语·灵笔LMDeploy Gradio Demo[自由形式文本-图像组合的视觉语言大模型 InternLM-Xcomposer2]
LMDeploy 部署 InternLM-XComposer2-VL-1.8B 模型
激活环境并安装 LMDeploy 以及其他依赖
用 LMDeploy 启动一个与 InternLM-XComposer2-VL-1.8B 模型交互的 Gradio 服务
三、书生·万象LMDeploy Gradio Demo[首个综合性能媲美国际闭源商业模型的开源多模态大模型InternVL2]
LMDeploy 部署 InternVL2-2B 模型