本文链接：https://blog.csdn.net/csdnwujinming/article/details/90778936

文章目录

概述

三元损失训练的模型泛化能力不强，类内方差依然较大，作者提出四元损失函数，用于减小类内方差和增加类间方差。
在这里插入图片描述贡献
1.四元损失函数
2.基于边缘在线难例选择策略
3.对Loss的理论分析
4.实验

方法

The triplet loss

三元损失度量学习。一个样本由三个图片 ${I_A,I_{A^,},I_B\}$ 组成， ${I_A,I_{A^,}\}$ 为正样本对，来自同一个身份A， ${I_A,I_B\}$ 为负样本对，来自两个身份A与B。三元损失为
在这里插入图片描述
算子 $(\cdot )_+=max(\cdot,0)$ f为身份特征，函数身份使得相同身份度量距离拉近，不同身份距离拉远。对应图2 的a三分支网络
相似度度量方式为欧氏距离。作者将其替换，使用网络来学习 $g(x_1,x_2)$ 。学习到的度量方法更鲁棒，表达能力更强。对应图2b，相当于两个特征成对作为一个输入至网络g中（例如，两个特征通道方向上叠加），变成的两个分支。网络g输出一个值，但不能确保在[0,1]中，这可能使margin 无效。
在这里插入图片描述

The quadruplet loss

作者对三元网络增加softmax层，并且网络输出两个值对应相似与不相似，红点对应不相似程度，代入公式计算loss。
四元损失如下，第二项为增加的约束，拉大了类间距离。
在这里插入图片描述 ##### Margin-based online hard negative mining
margin 的确定，作者假设正样本对与负样本分布不同。margin 为两个分布均值距离之差。

Loss梯度

$\frac{max(\mu,0)}{2}=\alpha_2$ 因为 $\alpha_2$ 指示函数分别说明每项的梯度是否参与计算（例，在这里插入图片描述说明为正，该样本参与梯度计算），前面的系数还不太清楚。

Relationships of different losses

contrastive loss

在这里插入图片描述
对于一个大小为M的batch，a个正样本对，M-a个负样本对，则该batch 可以组成a(M-a)个四元组样本

第二行将样本分为正负样本对分别计算求和。第三行将两个二元组（忽略图像重复利用）组成a(M-a)个样本。最后一行将a(M-a)根据两个二元组是否共享同一个图片分别计算。
相比四元损失，等式8max函数第一项为 $g(x_i,x_j)$ ，四元损失中为0，所以四元损失只考虑在这里插入图片描述 > 0的样本。并且对比损失更喜欢结果可分类
case 1中难以根据阈值界定区分正负样本对，而case 2根据虚线区分，只分错一个正样本对为负，对比损失训练结果倾向case 2，而reid case1 结果更好。