新一代大核卷积反超ViT和ConvNet！同参数量下性能、精度、速度完胜

大核卷积网络是CNN的一种变体，也是深度学习领域的一种重要技术，它使用较大的卷积核来处理图像数据，以提高模型对视觉信息的理解和处理能力。

这种类型的网络能够捕捉到更多的空间信息，因为它的大步长和大感受野可以一次性覆盖图像的更多区域。比如美团提出的PeLK网络，内核大小可以达到101x101，同参数量下性能反超 ViT，目前已被CVPR 2024收录。

更值得一提的，大核卷积网络不仅在性能上有所提升，在ImageNet分类等任务上，也展现出了优于ViT和ConvNet架构的效果。比如腾讯+港中文提出的UniRepLKNet，只用ImageNet-22K预训练，精度和速度SOTA，ImageNet达到88%。

当然效果惊人的成果远不止这些，我这次挑选了10个大核卷积网络最新创新方案，开源的项目代码都有，供有论文需求的同学参考学习。

论文原文以及开源代码需要的同学看文末

PeLK: Parameter-efficient Large Kernel ConvNets with Peripheral Convolution

方法：论文提出了外围卷积，通过参数共享有效减少了密集网格卷积 90% 以上的参数数量，并设法将内核尺寸扩大到极大。在此基础上，作者提出了参数高效的大核网络（PeLK）。