基础作业
1. 安装环境和代码
2.生成数据集
3.修改配置文件
4.开始微调
5.模型转化成hf格式,合并模型
6.开启推理和网页Demo
结果:
进阶作业:
1. 将训练好的Adapter模型权重上传到 OpenXLab
首先参照上传模型文件 | OpenXLab浦源 - 文档中心建立和interStudio算力平台的ssh连接
然后在OpenXlab创建模型
通过git ssh方式,下载模型仓库
将训练合并的Adapter模型权重文件夹“hf”放到仓库xtunter下(xtunter为仓库名)下。并执行:
git add hf/
git commit -m "add hf adapter"
git push
上传结果
2. 将训练好后的模型应用部署到 OpenXLab 平台
最近哦openxlab升级,上传模型和应用中心对于模型的调用都发生了变化,踩了很多坑,主要是openxlab应用中心对于openxlab上上传好的模型的调用(ustbzgn/InternLMXtunter: 书生浦语大模型实战营微调部署至OpenXlab (github.com))
(1)上传微调后的模型
(2)创建应用
github仓库地址:https://github.com/ustbzgn/InternLMXtunter.git
部署成功:应用中心-OpenXLab