一、主要原理
其借鉴了ResNet的思想,用dense connectivity的方式更加缩短了头尾之间层的连接,使得
在前向传播过程中,每一层都与其他所有层相连
于是一个有L层的DenseNet就有L(L+1)/2个连接,每一层都将之前所有层输出的feature map 连结起来作为自己的输入,然后再把自己的输出输送给之后的所有层
这个网络的优点如下:
1.减轻了梯度弥散的问题,使模型不容易过拟合
2.增强了特征在各个层之间的流动,因为每一层都与初始输入层还有最后的由loss function得到的梯度直接相连
3.大大减少了参数个数,提高训练效率
【与ResNet比较】