DenseNet：比ResNet更优的CNN模型

最新推荐文章于 2024-02-20 20:38:51 发布

weixin_44662311

最新推荐文章于 2024-02-20 20:38:51 发布

阅读量533

点赞数

分类专栏：计算机视觉

本文链接：https://blog.csdn.net/weixin_44662311/article/details/106712828

版权

DenseNet是一种改进的卷积神经网络，通过建立所有层的密集连接，实现更好的特征重用和梯度传播。与ResNet的短路连接不同，DenseNet在通道维度上连接所有前层，形成更高效的网络结构。DenseBlock和Transition模块的使用解决了特征图尺寸问题，同时允许在网络中使用较小的参数量和计算成本，提供优于ResNet的性能。

摘要由CSDN通过智能技术生成

前言
在计算机视觉领域，卷积神经网络已经成为最主流的方法，比如GoogleNet, VGG-19, Incepetion等模型。CNN史上的一个里程碑事件是ResNet模型的出现， ResNet可以训练出更深的CNN模型，从而实现更高的准确度。ResNet模型的核心是通过建立前面层与后面层之间的‘短路连接’，这样有助于训练过程中梯度的反向传播，从而能训练出更深的CNN网络。DenseNet网络的思想基本与ResNet一致，但是它建立的是前面所有层与后面层的密集连接。DenseNet的另一大特色是通过特征在channels上的连接来实现特征重用。这些特点让DenseNet在参数和计算成本更少的情况下实现biResNet更优的性能。

在这里插入图片描述
设计理念
相比ResNet, DenseNet提出了一个更激进的密集连接机制：即互相连接所有的层，具体来说就是每个层都会接受前面所有层作为其额外的输入，。可以对比看出，ResNet是每个层与前面的某层短路连接在一起，连接方式是通过元素级相加，而在DenseNet中，每个层都会与前面所有层在channels维度上连接，并作为下一层的输入。而且DenseNet是直接连接来自不同的特征图，这个可以实现特征重用，提升效率，这一特点是DenseNet与Resnet最主要的区别。