本节课程主要介绍了如何进行大模型的微调以及XTuner工具的使用。整体过程比较简单,就是准备数据集,转换为xtuner的数据格式,划分训练集和测试集,启动xtuner开始微调,微调后模型参数转换/合并,最后启动webdemo观察微调结果。
作业情况:
在数据集准备完成后微调启动:
参数调整:
Merge参数:
启动Webdemo:
查看效果:
本节课程主要介绍了如何进行大模型的微调以及XTuner工具的使用。整体过程比较简单,就是准备数据集,转换为xtuner的数据格式,划分训练集和测试集,启动xtuner开始微调,微调后模型参数转换/合并,最后启动webdemo观察微调结果。
作业情况:
在数据集准备完成后微调启动:
参数调整:
Merge参数:
启动Webdemo:
查看效果: