Datawhale AI夏令营

Datawhale AI夏令营——从零入门大模型微调Task 2

baseline1精读

赛题解读

• input部分对应对应语文和英语的阅读材料部分，包括《训练集-语文.xlsx》《训练集-英语.xlsx》两个文件的材料，对应阅读文本数据列。

• target部分对应选择题， 这里的 “选择题”不单单指选择题的题干，还要有选项和参考答案，要有一定的格式。

数据处理

使用python中的正则表达式re来实现字符串的处理工作。使用pandas来做数据处理模块方便处理xlsx文件。将文件中的数据读取出来，将语文数据与英语数据整理好后存储成可以微调的数据格式。可以微调的数据格式我们可以选择csv与jsonl类型。

• 处理流程
  

微调相关知识

• 通常的做法是截断预先训练好的网络的最后一层（softmax层），并用与我们自己的问题相关的新的softmax层替换它。例如，ImageNet上预先训练好的网络带有1000个类别的softmax图层。如果我们的任务是对10个类别的分类，则网络的新softmax层将由10个类别组成，而不是1000个类别。然后，我们在网络上运行预先训练的权重。确保执行交叉验证，以便网络能够很好地推广。
• 使用较小的学习率来训练网络。由于我们预计预先训练的权重相对于随机初始化的权重已经相当不错，我们不想过快地扭曲它们太多。通常的做法是使初始学习率比用于从头开始训练（Training from scratch）的初始学习率小10倍。
• 如果数据集数量过少，我们进来只训练最后一层，如果数据集数量中等，冻结预训练网络的前几层的权重也是一种常见做法。