文章目录
摘要
Conv2Former是在ConvNeXt基础上,做了进一步的优化,性能得到了提升。我们尝试将Conv2Former加入到YoloV8中,会发生什么样的反应呢?
论文翻译
摘要
本文并没有试图设计一种最先进的视觉识别方法,而是研究了一种更有效的方法,利用卷积来编码空间特征。通过比较最近的卷积神经网络(ConvNets)和Vision transformer的设计原理,我们提出利用卷积调制操作来简化自注意。我们证明了这样一个简单的方法可以更好地利用嵌套在卷积层中的大内核(≥7 × 7)。我们使用所提出的卷积调制(称为Conv2Former)构建了一个层次ConvNets家族。我们的网络简单易懂。实验表明,我们的Conv2Former在所有ImageNet分类、COCO对象检测和ADE20k语义分割方面都优于现有的流行ConvNets和vision Transformers,如Swin Transformer和ConvNeXt。
1、简介
在2010年代,视觉识别领域的巨大进步主要集中在卷积神经网络(ConvNets)上,以VGGNet[63]、Inception系列[65-67]和ResNet系列[21、30、85、98]等为代表。这些识别模型大多通过堆叠多个构建块和采用金字塔网络架构来聚集具有大接受域的响应,但忽略了显式建模全局上下文信息的重要性。SENet系列[3,35,39,80]突破了传统的cnn设计,在cnn中引入了基于注意的机制来捕获长期依赖关系,获得了令人惊讶的良好性能。
自2020年以来,视觉Transformer(ViTs)[20,51,73,78,92]进一步促进了视觉识别模型的发展,并在ImageNet分类和下游任务上表现出比最先