书生实战营第三期进阶岛第四关任务

参考文档
1.安装环境

• 完成

2.数据集准备

• 完成
• 复制数据集命令在路径表述上有瑕疵

3.InternVL推理

• 推理成功，但是表述不准确

4.QLORA训练

• 根据文档调整config后，占用显存35308M
• 时间较长，6epoch，3000iter耗时约6个小时

• 权重合并成功

5.微调后效果

6.使用LORA的重新训练一次试试

• 修改internvl_v2_internlm2_2b_qlora_finetune.pymodel、data路径、batch，epoch和lr都有差异
• 2epoch，1000iter，耗时约2小时
• 对比log
  • QLORA，6epoch可将loss从5.5降到1左右，2epoch可以降到4左右
  • LORA，2epoch将loss从5.5降到5左右，效果不如QLORA版本
  • 分析原因可能是LORA的lr为1e-6，太小，需要更多epoch。而QLORA为2e-5，loss下降显著。

• 合并权重，转换模型。因epoch较少，loss较大，因此效果也不好。