一、研究动机
1、由于红外和可见光之间具有较大的模态差异,因此基于生成的方法产生的图像低质量且含有干扰信息,降低了ReID的性能。
2、针对上述问题作者提出FMCNet在特征级上补偿模态缺失信息。
a、提取区分性的模态共享特征用于VI-ReID。
b、首先从现有模态的图像中生成缺失模态的图像,然后从配对图像中提取区分人的特征,用于VI-ReID。
c、从现有的模态共享特征直接生成一个模态缺失的模态特定特征,然后进行匹配任务。
二、贡献
1、提出了一种新的FMCNet,它为VI-ReID提出了特征级而非图像级模态特定信息补偿。这使得我们的模型能够专注于为VI-ReID生成一些所需的缺失模态特定特征(例如,区分性的人相关特征)。
2、FMCNet提供了一个统一的端到端框架,分别通过提出的SFD、FMC和SFF模块实现VI-ReID的单峰特征分解、特定模态特征补偿和特定模态共享特征混淆。
3、模型明显优于那些基于图像级补偿的模型,并且获得了比一些最先进的基于模型共享特征学习的模型更具竞争力甚至更好的结果。
三、model