![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
vision transformer
文章平均质量分 74
BrotherHappy
故事还长,樱花依旧。
展开
-
CNN in Transformer
Convolution Transformer 是一种对Vision Transformer的改进,作者主要是从两个方面来改进了Trasformer。替换Position Embedding,和Linear Projection 为卷积操作。 。。。。原创 2021-04-23 18:06:11 · 240 阅读 · 2 评论 -
VisionTransformer
VisionTransformer,这是首次将Transformer引入CV的一篇文章 simple way to achieve SOTA in vision classification with only a single transformer encoder, in Pytorch. Significance is further explained in Yannic Kilcher’s video. There’s really not much to code here, but may a原创 2021-04-21 22:08:16 · 277 阅读 · 0 评论 -
Swin Transformer !!
Swin Transformer 一种旨在设计通用的backbone,却在应用了屡屡刷屏 自从2017年Google Brain 提出了 Transformer之后,便掀起了一股研究transformer的热潮,随着BERT在NLP领域的频繁刷屏,Transformer也开始在CV领域大展身手,从ViTa到DETR,卷积和Transformer之间的结合应用变得越来越紧密。有关以Transformer为backbone的研究也在如火如潮的进行当中。 Swin Transformer提出了Transform原创 2021-03-30 21:00:36 · 1638 阅读 · 3 评论 -
DETR:vision transformer在目标检测中的应用
End-to-End Object Detection with Transformers原创 2021-03-29 20:51:39 · 1026 阅读 · 0 评论