本帖参考Xtuner微调步骤教程,在V100 16G显存上实现了大模型自我认知的微调。实操过程中遇到问题可参考本Xtuner微调操作视频学习。时间充裕也可参照上述教程制作自己的领域数据集进行微调。
教程复现过程中,V100微调训练显存占用约12G左右,web_demo推理显存占用约15G左右。大模型自我认知微调后效果如下:
XTuner 大模型单卡低成本自我认知微调
本帖参考Xtuner微调步骤教程,在V100 16G显存上实现了大模型自我认知的微调。实操过程中遇到问题可参考本Xtuner微调操作视频学习。时间充裕也可参照上述教程制作自己的领域数据集进行微调。
教程复现过程中,V100微调训练显存占用约12G左右,web_demo推理显存占用约15G左右。大模型自我认知微调后效果如下:
XTuner 大模型单卡低成本自我认知微调