Huang S, Wang T, Xiong H, et al. Semi-supervised active learning with temporal output discrepancy[C]//Proceedings of the IEEE/CVF International Conference on Computer Vision. 2021: 3447-3456.
总览
本文提出了一种简单而有效的损失测度TOD。本文提出了一种新的深度主动学习框架,将TOD与主动学习策略和半监督学习方案相结合。在图像分类和语义分割任务上进行的大量主动学习实验验证了所提方法的有效性。
这篇文章受到样本的loss值与其所具有的信息量大小成正相关这一特点(之前的论文已经验证),设计了一个根据不同时刻/迭代模型输出的差异大小来进行样本选择的策略。这里提出了一个评估器Temporal Output Discrepancy (TOD),在标签未知的情况下根据训练模型来评估样本的潜在损失。
Temporal Output Discrepancy
定义:
D表征模型f在第t+T步和t步得到不同参数下的输出的distance。
后续证明了更大的DOT也对应着更大的样本损失。
半监督主动学习
文章将整个流程分为两部分,第一部分,主动学习选择样本,第二部分,进行目标模型学习。这两部分都利用了TOD的变种方法。对于主动学习,提出了COD(cycle Output difference)来选择预估损失最大的样本。对于模型训练,作者开发了一个基于TOD的无监督损失项来提高任务模型的性能。
主动学习
数据采样策略对未标记池中的每个样本估计COD (cycle Output difference, TOD的变体),并选择COD最大的未标记样本进行数据注释。
COD通过测量两个连续的主动学习周期之间模型输出的差异来估计样本的不确定性。和TOD一致,就是每步代表每一次主动学习的迭代。
半监督任务学习
无监督损失:通过对历史参数应用指数移动平均(EMA)来构建基线模型
这里的α实验取0.999。
无监督损失最小化当前模型和基线模型之间的距离。
任务损失:就是普通的损失函数。
总体目标:
这里的λ实验取0.05。
实验
图像分类实验
根据实验结果有以下结论:
对于每一轮迭代,本文提出的方法都比其他方法好;
在复杂数据集上有较好的鲁棒性;
与其他方法相比,该方法的性能曲线相对平滑;
提出的半监督学习方法是有效的;
用40%的数据性能比全监督100%数据的性能还好,这说明原始数据集中一些图像是不必要甚至有害的。
作者提供的代码中主动学习采样策略的COD是每个主动学习迭代轮次进行一次更新,而对于无监督损失的EMAOD是和task模型同步更新的,也就是每一个batch都会进行一次更新。