论文阅读一:FMCNet: Feature-Level Modality Compensation for Visible-Infrared PersonRe-Identification

论文链接:https://openaccess.thecvf.com/content/CVPR2022/papers/Zhang_FMCNet_Feature-Level_Modality_Compensation_for_Visible-Infrared_Person_Re-Identification_CVPR_2022_paper.pdf

一、研究动机

        1、由于红外和可见光之间具有较大的模态差异,因此基于生成的方法产生的图像低质量且含有干扰信息,降低了ReID的性能。

        2、针对上述问题作者提出FMCNet在特征级上补偿模态缺失信息。

        a、提取区分性的模态共享特征用于VI-ReID。

        b、首先从现有模态的图像中生成缺失模态的图像,然后从配对图像中提取区分人的特征,用于VI-ReID。

        c、从现有的模态共享特征直接生成一个模态缺失的模态特定特征,然后进行匹配任务。

二、贡献

        1、提出了一种新的FMCNet,它为VI-ReID提出了特征级而非图像级模态特定信息补偿。这使得我们的模型能够专注于为VI-ReID生成一些所需的缺失模态特定特征(例如,区分性的人相关特征)。

        2、FMCNet提供了一个统一的端到端框架,分别通过提出的SFD、FMC和SFF模块实现VI-ReID的单峰特征分解、特定模态特征补偿和特定模态共享特征混淆。

        3、模型明显优于那些基于图像级补偿的模型,并且获得了比一些最先进的基于模型共享特征学习的模型更具竞争力甚至更好的结果。

三、model

 

 

 

 

 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
跨模态融合变压器用于多光谱目标检测是一种先进的目标检测方法。多光谱图像由不同波段的传感器捕获,每个波段提供了目标的不同特征信息。传统的目标检测算法往往局限于单一光谱波段,无法在多光谱图像中有效提取目标信息。而跨模态融合变压器能够将不同波段的光谱信息融合,并在融合后的特征上进行目标检测,从而提高目标检测的准确性和鲁棒性。 跨模态融合变压器结合了Transformer模型和跨模态融合方法。Transformer模型是一种基于自注意力机制的神经网络架构,能够有效地建模长距离依赖关系。它将目标的特征信息转化为一系列的注意力权重,然后利用这些权重来对不同波段的特征进行加权融合。这种融合方式可以将信息从一个波段传递到另一个波段,使得各个波段的特征能够共同影响目标检测结果。 跨模态融合变压器还引入了多尺度的注意力机制,以适应不同尺度目标的检测需求。它通过在特征提取的过程中引入多个不同大小的注意力窗口,来对不同尺度的目标进行建模。通过这种方式,跨模态融合变压器能够在多光谱图像中准确地检测到各种尺度的目标。 总之,跨模态融合变压器是一种能够融合不同波段特征并进行多光谱目标检测的先进方法。它的引入可以提高目标检测的准确性和鲁棒性,适用于各种需要从多光谱图像中提取目标信息的应用场景。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值