模型准备阶段任务
本项目中我们选择了mPLUG-Owl模型作为我们的base model。
其官网介绍如下:
https://github.com/X-PLUG/mPLUG-Owl/tree/main/mPLUG-Owl
根据现有资源我们制定了两种方案来部署我们的模型。一个是魔搭平台提供的免费环境32GB的GPU;一个是我们实验室提供的2*A100.
方案一、在魔搭上搭建和验证测试环境
-
环境搭建:
- 完成所有软件和硬件安装后,配置环境变量和路径,确保所有库和工具都能正确运行。
- 设置Python虚拟环境,隔离项目依赖,避免版本冲突。
-
下载模型:
- 从魔搭社区获取“mPlug-Owl”模型的最新版本,并加载到我们的服务器上。mPLUG-Owl Multimodal Chatbot · 创空间 (modelscope.cn)
- 从魔搭社区获取“mPlug-Owl”模型的最新版本,并加载到我们的服务器上。mPLUG-Owl Multimodal Chatbot · 创空间 (modelscope.cn)