image-text matching(三)Position Focused Attention Network for Image-Text Matching

背景

本篇论文的工作来自西安交通大学、腾讯AI lab,接收于IJCAI2019

动机

前人的方法忽略了图像中的相对位置信息。一般来说,目标区域越靠近中心,就越有可能表达出图像的主要语义,而边缘区域则没有那么重要。(个人理解,本文的创新点在于把区域的位置信息进行编码,加入到图文匹配任务中)
如此一来,一个直观且简单的做法是,对于靠近图像中心的区域赋予其更多的注意力。然而,并不是所有靠近中心的区域都那么重要,如图1(b)所示,woman(最重要的区域)位于左下角。因此,简单地根据固定位置(例如中心)将注意力分配到区域会导致较差的可扩展性。
在这里插入图片描述
作者通过整合object position线索来增强image-text 联合嵌入的学习。

网络结构

在这里插入图片描述

方法

在这里插入图片描述

在区域特征的编码上引入位置信息。怎么引入的?
1.先把整个图像均分成K x K个blocks,这些block的索引依次从1到K^2

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值