常用卷积神经网络 -- DenseNet

与ResNet的主要区别在于，DenseNet里模块B的输出不是像ResNet那样和模块A的输出相加，而是在通道维上连结。这样模块A的输出可以直接传入模块B后面的层。在这个设计里，模块A直接跟模块B后面的所有层连接在了一起。 这也是它被称为“稠密连接”的原因。DenseNet 通过特征在channel上的连接来实现特征重用。

DenseNet的主要构建模块是稠密块(dense block)和过渡层(transition layer)。前者减少网络参数，后者则用来控制通道数。

 

一、稠密块：

 

二、网络结构：

1、稠密连接，减少网络参数

2、Batch Normalization + ReLU + 3*3 Conv层

3、过渡层包含瓶颈层和池化层

（1）瓶颈层，bottleneck layer，即1*1卷积层，用于减少参数。

（2）不能直接在各个层之间加入池化层，只能在各个Dense Block之间加入卷积层和池化层。

参考地址：https://www.jianshu.com/p/8a117f639eef

 

三、各种DenseNet对比图：