#今日论文推荐#Curriculum Labeling：重新审视半监督学习的伪标签

#今日论文推荐#Curriculum Labeling：重新审视半监督学习的伪标签

与微调相反，重新初始化模型确实显著提高了准确性，展示了一种替代且可能更简单的解决方案来缓解确认偏差问题。
Curriculum Labeling (CL)，在每个自训练周期之前重新启动模型参数，优于伪标签 (PL)。
Pseudo-Labeling (PL) 通过将伪标签应用于未标记集中的样本以在自训练周期中进行模型训练。Curriculum Labeling (CL)中，应用类似课程学习的原则，通过在每个自学习周期之前重新启动模型参数来避免概念漂移。该论文发布在2021 AAAI 。

伪标签可以认为是未标记数据的目标类，就好像它们是真正的标签一样。伪标签是通过选取网络为每个未标记样本预测的最大预测概率的类来实现的。伪标签使用带有 Dropout 的微调阶段，可以将预训练的网络以有监督的方式同时使用标记和未标记的数据进行训练。Curriculum Labeling (CL)

模型在标记样本上进行训练。然后该模型用于预测和分配未标记样本的伪标签。预测概率分数的分布用于选择伪标记样本的子集。使用标记和伪标记样本重新训练新模型。通过使用这个新模型重新标记未标记的样本来重复这个过程。当训练期间使用数据集中的所有样本时，该过程停止。

论文题目：Curriculum Labeling: Revisiting Pseudo-Labeling For Semi-Supervised Learning
详细解读：https://www.aminer.cn/research_report/62d66e767cb68b460feecba0https://www.aminer.cn/research_report/62d66e767cb68b460feecba0
AMiner链接：https://www.aminer.cn/?f=cs