sway_sway_sway的博客

原创 Datawhale ai夏令营task1:初次运行baseline1

结合朋友的实验效果发现使用不同的模型（qwen2-72b-instruct与qwen2-7b-instruct）得分差异较大，训练的准确度与模型有很大关系。1）训练数据集的质量和数量，对数据集进行预处理，降噪删去不准确的干扰样本，提高数据集准确度；2）调整超参数，调整学习率、批大小、迭代次数等超参数，寻找最合适的组合。（进行同义词替换，增加数据的多样性，从而提高模型的泛化能力，增强鲁棒性）除此之外，想要提高结果准确率，还可以从以下方面入手。例如，在处理json数据时，我们可以设置函数实现数据增强。