详解YOLOv5中的Bottleneck

原创

已于 2023-02-18 15:50:52 修改 · 2.5w 阅读

CC 4.0 BY-SA版权

文章标签：

于 2022-01-20 10:40:33 首次发布

本文详细介绍了残差网络中的Bottleneck结构及其在YOLOv5中的应用。对比了Bottleneck与Buildingblock的区别，并深入分析了YOLOv5中Bottleneck的结构变化及代码实现。

深度学习入门小菜鸟，希望像做笔记记录自己学的东西，也希望能帮助到同样入门的人，更希望大佬们帮忙纠错啦~侵权立删。

一、背景知识 -- 残差结构

关于残差以及一些残差网络（eg: Resnet）的分析，可以看一下博主之前写的博客

说到Bottleneck，就会想到他的“兄弟” -- building block。Bottleneck和building block其实都是在Resnet中提出的。如下图所示，左边是针对Resnet34提出的building block；右边是针对Resnet50提出的Bottleneck。

watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAdHTkuKs=,size_20,color_FFFFFF,t_70,g_se,x_16

building block由两个3*3的卷积层组成，Bottleneck由两个1*1卷积层夹心一个3*3卷积层组成：其中1*1卷积层负责减少然后增加（实际上就是恢复）维数，让3*3卷积层成为输入/输出维数更小的瓶颈。Bottleneck既减少了参数量，又优化了计算，保持了原有的精度。

第一个1*1的卷积把256维channel降到64维，最后再通过

P.J.233 2022.12.02
这里写错了吧!: 原文:"Bottleneck模块是在BottleneckCSP中使用的，BottleneckCSP由Bottleneck*N（此时维数为原先的1/2)和另外一个从原先变换来的同样维数也为原先的1/2的结构拼接（concat），最终就又实现了升维（恢复为原先的维数），这里可以理解为是Bottleneck*N操作后" 应该是: 看源代码应该是,先走1*1从c1降维到c_,再走3*3直接将c_升维度到c2(其中c1为input_channel,c2为output_channel,c_为中间降维的channel,只有shortcut为True且c1==c2才做残差add操作,并不是concat!)
- tt丫回复P.J.233 2023.02.18
  其实原文我这一段话是想描述Bottleneck*N组成CSP的过程，不是在说Bottleneck里面的具体实现哈哈哈，你可能误会我的意思啦。你后面写的关于bottleneck的描述是对的
- P.J.233回复P.J.233 2022.12.02
  只不过这么做应参数会比普通bottleneck要多,但比building block参数要少 1*1*256*64+3*3*64*256=163840

m0_48059215 2022.04.30
yolov5 bottleneck 其实只在CSP构造时调用，而且给Bottleneck的输出输出通道数相等，说明Bottleneck里面如果shortcut为True，那么是1*1+3*3 后通道数就调整好了相对1*1，3*3，1*1的结构，参数量多了一点