论文下载: https://arxiv.org/abs/1707.06484
这篇CVPR2018会议论文其实是对于现今的网络结构(VGG、ResNet、ResNeXt、DenseNet等等)的总结抽象,了解它们的网络结构背后更深层次的内容并提出了两种比较抽象的网络结构iterative layer aggregation(IDA)和Hierarchical layer aggregation(HDA),我把他们称为迭代层聚合以及分层层聚合,先上论文里的图。
a与b是已存在的网络结构,c就是迭代层聚合,可以很直观的感受到它的网络结构中关于迭代的思想,通过迭代从浅层到深层不断改善layer的输出。c借鉴了b中的跳层连接,但通过修改解决了b中最浅层的部分会对最终结果产生最深远影响的问题。而d通过一种树状结构块分层次进行聚合,通过不同的深度更好的跨越了不同层级的特征。e和f通过改变d的中间聚合部分对于网络的影响以及在同样深度条件下结合比较成功的聚合方式来提高效率,f就是作者提出的分层层聚合的结构。c与f的数学表达式如(1)与(2),同样是论文中的式子。