动手深度学习笔记（四十三）7.7. 稠密连接网络（DenseNet）
7.7. 稠密连接网络（DenseNet）
ResNet极大地改变了如何参数化深层网络中函数的观点。 稠密连接网络（DenseNet） (Huang et al., 2017)在某种程度上是ResNet的逻辑扩展。让我们先从数学上了解一下。
7.7.1. 从ResNet到DenseNet
回想一下任意函数的泰勒展开式（Taylor expansion），它把这个函数分解成越来越高阶的项。在 x x x接近0时，
本文深入探讨了稠密连接网络（DenseNet）的原理，从ResNet到DenseNet的演变，详细介绍了DenseNet的组成部分：稠密块和过渡层，并展示了如何构建和训练DenseNet模型。DenseNet通过通道维度的连接减少参数量，但可能增加内存消耗。文章还提出了使用平均汇聚层的原因和DenseNet在内存管理上的挑战。
订阅专栏 解锁全文
扫一扫
2390
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
