论文信息
题目:OverLoCK: An Overview-first-Look-Closely-next ConvNet with Context-Mixing Dynamic Kernels
OverLoCK:一种先概览后细察且具有上下文混合动态内核的卷积神经网络
作者:Meng Lou, Yizhou Yu
源码:https://bit.ly/4bdbmdl
论文创新点
- 提出仿生深度阶段分解策略(DDS):受人类视觉系统“先概览后细察”机制启发,将网络分解为Base - Net、Overview - Net和Focus - Net三个子网络。
- 设计上下文混合动态卷积(ContMix):为使卷积具备长距离依赖建模能力并保留局部归纳偏差,通过计算输入特征图中token与上下文特征图区域中心的亲和度,生成空