【深度学习笔记】resnet两种结构具体怎么实现，bottleneck为什么可以降低计算量及模型大小

最新推荐文章于 2025-03-11 01:49:57 发布

onnx

最新推荐文章于 2025-03-11 01:49:57 发布

阅读量2.5k

点赞数 5

分类专栏：深度学习计算机视觉图像处理文章标签：深度学习 pytorch 神经网络

本文链接：https://blog.csdn.net/deeplearning_/article/details/120045546

版权

深度学习同时被 3 个专栏收录

105 篇文章

订阅专栏

计算机视觉

49 篇文章

订阅专栏

图像处理

46 篇文章

订阅专栏

本文介绍了ResNet网络的结构，包括18、34、50、101、152五种不同深度的版本。ResNet18和34基于BasicBlock构建，而更深层的ResNet50、101和152则采用Bottleneck设计。Bottleneck结构通过1x1卷积降低和恢复维度，减少了参数数量，实现了网络的高效。ResNet的重要设计原则是特征图尺寸减半时，通道数加倍，保持网络复杂度。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

文章目录

图1是论文里给出每种ResNet的具体结构

图1是论文里给出每种ResNet的具体结构

ResNet在PyTorch的官方代码中共有5种不同深度的结构，深度分别为18、34、50、101、152（各种网络的深度指的是“需要通过训练更新参数”的层数，如卷积层，全连接层等）

图1
在这里插入图片描述

不同深度的网络结构由不同的子模块搭建，(1) 一种基于BasicBlock，浅层网络ResNet18, 34都由BasicBlock搭成；(2) 另一种基于Bottleneck，深层网络ResNet50, 101, 152乃至更深的网络，都由Bottleneck搭成。如图2所示，左侧为BasicBlock，右侧为Bottleneck的结构。
在这里插入图片描述

右边结构中的第一个1x1卷积，用于降低维度，第二个1x1卷积用于升高维度，第一个1x1的卷积把256维channel降到64维，然后在最后通过1x1卷积恢复，整体上用的参数数目：1x1x256x64 + 3x3x64x64 + 1x1x64x256 = 69632，而不使用bottleneck的话就是两个3x3x256的卷积，参数数目: 3x3x256x256x2 = 1179648，差了16.94倍。
ResNet的一个重要设计原则是：当feature map大小降低一半时，feature map的数量增加一倍，这保持了网络层的复杂度。