本文介绍了DenseNet的网络结构，包括Dense Block和transition layers，强调其在解决梯度消失、特征传播、特征重用和减少参数量方面的优势。Dense Block中的层通过深度级联连接，transition layers负责尺寸和深度调整。DenseNet通过Growth Rate和bottleneck设计减少参数，形成DenseNet-B和DenseNet-C结构。相比于ResNet，DenseNet在参数和计算量上有所降低。
参考很多，仅为个人学习记录使用
论文：Densely Connected Convolutional Networks
发表时间：2016
一、概述
CVPR2017 的 oral。
CNN 的提高方向有变的更深(ResNet)，也有变得更宽(Inception)。本文从 feature 入手，通过更好的利用 feature 来达到更好的效果。网络结构并不复杂，但十分有效。主要分为两部分，Dense Block 和 transition layers。Dense Block 中是密集连接的卷积层，transition layers 连接在各个 Dense Block 之间，用于改变尺寸和深度。
DenseNet 有如下优点：
- 有效解决梯度消失问题；
- 强化特征传播；
- 支持特征重用；
- 大幅度减少参数量；
二、Dense Block 和 transition layers
Dense Block 中的层结构就如上图中所示。这是一个 5 层的 Dense Block，每层的输出深度为 4。每一层的输入深度都包含了前面所有层的输出，这些输出通过深度级联的方式连接在一起(concat)。
可以将上述步骤用公式表示为：x_l = H_l[x_1, x_2, ... ,
最低0.47元/天 解锁文章
2145
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
