表现SOTA!性能优于ProxyNCA++、XBM等网络,结果表明,与基于卷积的方法相比,transformer具有一致且显著的改进!
Transformer杀疯了!近期又有一波视觉Transformer的工作(大都来自大厂和Top高校)。
注2:整理不易,欢迎点赞,支持分享!
Training Vision Transformers for Image Retrieval
- 作者单位:Facebook, ENS/Inria
- 论文:https://arxiv.org/abs/2102.05644
Transformers在自然语言理解以及最近的图像分类方面显示出了杰出的成果。
我们在这里扩展这项工作,并提出一种基于Transformer的图像检索方法:我们采用视觉transformer来生成图像描述符,并以度量学习目标训练结果模型,该度量学习目标将对比损失与差分熵正则化器相结合。