CurricularFace: Adaptive Curriculum Learning Loss for Deep Face Recognition - 论文学习

研究背景

卷积神经网络(CNNs)在人脸识别方面的成功主要得益于:海量的训练数据、网络架构、loss function。目前，设计有效的损失函数来增强识别能力是训练深脸神经网络的关键。

目前最先进的人脸识别方法主要采用基于softmax分类损失。但原始的softmax对于实际的人脸识别问题没有很好的识别力。

研究现状：

1. 基于边界

设计基于边界的损失函数可以增加不同类别之间的特征边界，增强识别能力。

缺点：基于边缘的损失函数并没有根据每个样本的重要性来明确强调每个样本，使得困难样本没有被充分利用

1. 基于挖掘

采用了基于挖掘策略的思想来强调分类错误的样本，取得了良好的效果。

缺点：在早期训练阶段就明确强调半困难/困难样本的效果，这可能会导致收敛问题。

实现：

本文提出了一种新的自适应课程学习损失（CurricularFace），将课程学习的思想嵌入到损失函数中，实现了一种新的深度人脸识别训练策略，主要针对早期训练阶段的简单样本和后期的难样本。具体来说，在不同的训练阶段，我们的课程表会自适应地调整简单样本和硬样本的相对重要性。在每个阶段，不同的样本根据其相应的难度被赋予不同的重要性。广泛的实验结果表明，我们的课程面貌优于最先进的竞争对手。

总结：

1. 本文提出了用于人脸识别的自适应课程学习损失，自动地先强调简单样本，后强调困难样本。据我们所知，这是首次在人脸识别中引入自适应课程学习。
2. 我们设计了一种新的调制系数函数I(·)来实现训练过程中的自适应课程学习，它可以同时连接正余弦和负余弦相似度，而不需要手动调整任何额外的超参数。
3. 我们在流行的人脸基准上进行了广泛的实验，这证明了我们的CurricularFace的优势，超过了最先进的竞争对手。