1.简介
DenseNet是在ResNet发表后深受其影响,同时又更为优秀的一种网络结构,由康威大学清华大学、facebook的三位作者共同提出,论文发表于2017,获得了CVPR 2017的最佳论文奖。其核心即dense block稠密块继承和发扬了ResNet中shortcut这一设计使得layer之间可以“稠密”互联,同时,正如其名,不只是层于层间的连接,而且是稠密连接(也借鉴了Inception模块的思想),DenseNet里对于dense block中的每一层,都以前面的所有层作为输入(而其自身也用作后续所有层的输入),层和层之间正是通过ResNet中的shortcut方式进行连接。这种稠密连接的优点:它们减轻了消失梯度的问题,增强了特征传播,鼓励特征重用,并大大减少了参数数量。
下面对该论文的相关技术原理进行学习。
2.Abstract
Abstract
Recent work has shown that convolutional networks can be substantially deeper, more accurate, and efficient to