参考文档
1.安装环境
- 完成
2.数据集准备
- 完成
- 复制数据集命令在路径表述上有瑕疵
3.InternVL推理
- 推理成功,但是表述不准确
4.QLORA训练
- 根据文档调整config后,占用显存35308M
- 时间较长,6epoch,3000iter耗时约6个小时
- 权重合并成功
5.微调后效果
6.使用LORA的重新训练一次试试
- 修改
internvl_v2_internlm2_2b_qlora_finetune.py
model、data路径、batch,epoch和lr都有差异 - 2epoch,1000iter,耗时约2小时
- 对比log
- QLORA,6epoch可将loss从5.5降到1左右,2epoch可以降到4左右
- LORA,2epoch将loss从5.5降到5左右,效果不如QLORA版本
- 分析原因可能是LORA的lr为1e-6,太小,需要更多epoch。而QLORA为2e-5,loss下降显著。
- 合并权重,转换模型。因epoch较少,loss较大,因此效果也不好。