HSME: Hypersphere Manifold Embedding for Visible Thermal Person Re-Identificatio
本文最大的亮点是将人脸识别中设计的Sphere softmax loss函数迁移到ReID中,即SphereReID。
目前的问题:
目前的方法多采用分类和度量学习相结合的方法来训练模型,以获得具有鉴别性和鲁棒性的特征表示。然而,这种方式忽略了分类子空间和特征嵌入子空间之间的相关性。
基于此,提出了一种具有分类和识别约束的端到端双流超球面流形嵌入网络(HSMEnet)。同时,我们设计了一个获得去相关特征的两阶段训练方案,我们将去相关的HSME称为D-HSME。
网络框架及loss:
1.HSME network:
它包括两个部分:特征学习部分用于提取可共享的特征表征,度量学习部分用于匹配。分别输入RGB图和热图,经过CNN,FC,BN层分别提取特征,绿色部分的共享共享将之前提取的特征转换为嵌入空间,L2归一化后,共享特征映射到超球面流形上,其中,在度量学习中,两样本间的差异仅取决于角度。然后利用identity loss 和 ranking loss对模型进行约束,使其具有识别性。此外,还采用 KL散度来衡量两个领域预测的匹配性。p1和p2是两个域图像的预测概率。最后,通过单矢量分解(SVD)方法对Sphere Softmax最大值权矩阵进行了修正,获得了low level的特征。我们将特征相关的HSME网络称为D-HSME网络。
2.Feature Learning:
有specific layer 和shared layer组成,其中specific layer分别提取visible和thermal图像的特征,两个支路的网络结构大致相似,且backbone为alexNet,参数单独优化,输出给shared layer,权值共享,进一步提取特征,转换为共享嵌入空间。
3. Metric Learning Part:
将深度特征表示映射到超球面流形上,训练模型学习超球面上的分类和识别问题。这样,深层特征对匹配问题具有更强的诊断性和鲁棒性。这部分是HSME的关键,包括超球面流形嵌入(Hypersphere Man