度量学习DML之Contrastive Loss及其变种_程大海的博客-CSDN博客
度量学习DML之Triplet Loss_程大海的博客-CSDN博客
度量学习DML之Lifted Structure Loss_程大海的博客-CSDN博客
度量学习DML之Circle Loss_程大海的博客-CSDN博客
度量学习DML之Cross-Batch Memory_程大海的博客-CSDN博客
数据增强之SpecAugment_程大海的博客-CSDN博客
基于pytorch-metric-learning实现的度量学习模板代码:pytorch-metric-learning-template
度量学习的目标:
- 相似的或者属于同一类的样本提取到的embedding向量之间具有更高的相似度,或者具有更小的空间距离
- 对于out-of samples的样本,也就是未见过的样本,希望也能提取到有效的embedding,也就是模型的泛化能力更好
Lifted Structure Loss
论文:《Deep Metric Learning via Lifted Structured Feature Embedding》
核心思想:通过前面的介绍可以知道,Contrastive Loss和Triplet Loss在每次计算loss时,只能处理mini-batch两个或者三个样本,这极大的影响了算法的优化性能。如何让算法一次处理说个样本,比如给定一个positive样本,然计算这个positive的loss时,不像Contrastive Loss和Triplet Loss那样一次只选择一个negative,而是同时选择mini-batch中的所有negative来计算loss,这也是后续好多损失函数的优化方向。如下图所示:
Lifted Structure Loss的定义如下:
其中,表示mini-batch中所有正样本对positive-pair的数量,
表示mini-batch中所有的负样本对negative-pair。上面两个公式是啥意思呢?先看第二个公式,
表示由样本
与mini-batch中其他所有样本组成的负样本对(负样本之间的距离越大效果模型越好,距离越小模型越不好)中embedding距离最小的那个,
表示由样本
与mini-batch中其他所有样本组成的负样本对中embedding距离最小的那个,
就是计算
和
的所有负样本对中距离最小的那个样本
,
表示正样本对
和
之间embedding的距离。总结一下Loss的来源如下:
- 与
或者
距离最小的负样本
和
之间embedding距离
通过上述Loss函数的计算形式就可以看到了,与Contrastive Loss和Triplet Loss一次只选择一个negative样本不同,Lifted Structure Loss对于每个正样本对i和j
,会考虑mini-batch中所有的negative样本。
在上面Loss公式中,存在嵌套的max计算,作者说这容易导致模型陷入较差的局部最优,不利于模型优化,所以采用平滑上界函数来代替: