![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Transformer相关论文阅读
文章平均质量分 94
阅读Transformer的发展和改进相关论文的笔记
雨夜闭门
评论回复不及时,有问题可以邮箱联系:1219919167@qq.com
展开
-
【论文阅读】Swin Transformer: Hierarchical Vision Transformer using Shifted Windows
作者提出了一个骨干模型,证明ViT能够用于各类视觉分割任务将Transformer用于机器视觉的挑战:①不同语义的词大小不一样,比如图像中大中的小不一致的汽车;②图像的高分辨率,如果直接转成序列输入太长了通过滑动窗口实现提取全局的信息(分层,多尺度),同时计算复杂度随着图像大小线性增长,而不是传统ViT的成平方级增长。原创 2023-04-02 09:06:38 · 130 阅读 · 0 评论 -
Attention Is All You Need论文阅读
本文为梳理Transformer结构的发展,以及存在的问题,通过网络上一些大佬的讲解和论文原文阅读。原创 2023-03-31 13:35:54 · 153 阅读 · 1 评论