RAMS-Trans Recurrent Attention Multi-scale Transformer for Fine-grained Image Recognition

论文地址：https://arxiv.org/abs/2107.08192
代码地址：https://github.com/hyqyoung/RAMS-Trans
好的文章：https://blog.csdn.net/weixin_42437114/article/details/129249313?
好的文章：https://zhuanlan.zhihu.com/p/645259799
RAMS-Trans: Recurrent Attention Multi-scale Transformer for Fine-grained Image Recognition(用于细粒度图像识别的循环注意多尺度Transformer)
该论文2021发布在ACM MM上。

先前的工作

VIT存在的问题：

• 该模型一次处理所有的patch token，当数据集的复杂性增加时，例如当图像分辨率很高或图像背景混乱时，该模型可能无法有效捕获patch token中携带的区域注意力。相反，当图像分辨率较低时，这种固定的patch大小更容易使模型丢失局部信息。
• 其次，ViT与CNN的不同之处在于，patch token的长度不会随着其编码器块的增加而改变，因此不能有效地扩展模型的接受域。

TransFG: 将最后一层Transformer前的所有注意权值相乘得到patch token的重要性排序，然后将选中的tokens与global clas