背景
本篇论文的工作来自西安交通大学、腾讯AI lab,接收于IJCAI2019
动机
前人的方法忽略了图像中的相对位置信息。一般来说,目标区域越靠近中心,就越有可能表达出图像的主要语义,而边缘区域则没有那么重要。(个人理解,本文的创新点在于把区域的位置信息进行编码,加入到图文匹配任务中)
如此一来,一个直观且简单的做法是,对于靠近图像中心的区域赋予其更多的注意力。然而,并不是所有靠近中心的区域都那么重要,如图1(b)所示,woman(最重要的区域)位于左下角。因此,简单地根据固定位置(例如中心)将注意力分配到区域会导致较差的可扩展性。
作者通过整合object position线索来增强image-text 联合嵌入的学习。
网络结构
方法
在区域特征的编码上引入位置信息。怎么引入的?
1.先把整个图像均分成K x K个blocks,这些block的索引依次从1到K^2