结构重参数化
文章平均质量分 96
00000cj
计算机视觉,论文阅读记录
展开
-
RepLKNet(CVPR 2022, MEGVII)
本文的出发点是探讨在现代CNN中引入大卷积核的设计,试图通过使用大卷积核来缩小CNN与ViT之间的性能差距。原创 2024-07-16 21:07:30 · 1168 阅读 · 0 评论 -
RepOptimizer原理与代码解析(ICLR 2023)
本文提出了一种称为“梯度重参数化”(Gradient Re-parameterization)的新方法,该方法根据模型特定的超参数修改梯度,从而创建出一种新的重参数优化器(RepOptimizer),从而可以直接在优化过程中利用模型特定的先验知识,而不仅仅依赖于架构设计。原创 2024-05-24 19:51:20 · 1108 阅读 · 0 评论 -
结构重参数化之三:Diverse Branch Block
paperDiverse Branch Block: Building a Convolution as an Inception-like Unitcodehttps://github.com/DingXiaoH/DiverseBranchBlock前言有了前两篇文章ACNet和RepVGG的铺垫,本文就忽略背景介绍,直接进入核心内容的讲解。本文首先总结了六种不同的结构重参数化的转换方法,然后借鉴Inception的多分支结构提出了一种新的building block:Di...原创 2022-04-04 17:51:59 · 5953 阅读 · 0 评论 -
结构重参数化之一:ACNet
论文ACNet: Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric Convolution Blocks代码GitHub - DingXiaoH/ACNet: ACNet: Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric Convolution Blocks前言本文提出了一种architecture-neut...原创 2022-03-22 23:03:53 · 4582 阅读 · 2 评论 -
结构重参数化之二:RepVGG
论文RepVGG: Making VGG-style ConvNets Great Again代码GitHub - DingXiaoH/RepVGG: RepVGG: Making VGG-style ConvNets Great Again前言相比于VGG这种简单重复堆叠conv、ReLU、pooling层的plain结构,Inception、ResNet、DenseNet等引入了更复杂的结构并带来了精度的提升,但这些复杂的结构也有缺点复杂的多分支结构(例如ResNet...原创 2022-03-27 19:07:53 · 5692 阅读 · 0 评论