![](https://img-blog.csdnimg.cn/20201014180756780.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Vision Transformer
vision transformer
WadeQyx
这个作者很懒,什么都没留下…
展开
-
Visual Transformer
Deformable DETRMotivationDETR对于小物体的检测能力较差。现代的目标检测器用高像素的图像来检测小物体,但是使用高像素图像会导致DETR中encoder的计算复杂度增高。O(size3)O(size^{3})O(size3)DETR需要更多的训练轮次来收敛,收敛速度较慢。For example,在训练初始,cross-attention模块在整个特征图谱上都作attention,而在训练快结束时,注意力图谱已经被学习得非常稀疏,仅仅关注物体存在的部分。DETR需要训练很久来得原创 2021-06-02 21:12:09 · 383 阅读 · 0 评论 -
CV学习笔记
Vision Transformer_1原创 2021-05-20 20:30:21 · 168 阅读 · 0 评论