【深度学习】backbone网络结构ResNet、Inception、DenseNet简单概述

最新推荐文章于 2024-02-21 08:21:18 发布
最新推荐文章于 2024-02-21 08:21:18 发布
阅读量3.7k 收藏 38
点赞数 5
分类专栏： Deep Learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/chen1234520nnn/article/details/119843981
版权

目录

前言

各自的亮点：

一、ResNet

1. Resnet要解决的是什么问题

2. Residual Block的设计

3. ResNet 网络结构

二、Inception

1. Inception系列想要解决的问题

2. Inception V1-2014年

3. Inception V2、Inception-V3 -2015年

4. 总结

三、DenseNet

3.0 DenseNet优点:

3.1 DenseNet与Resnet的区别：

3.2 DenseNet网络结构图

前言

主要讲述ResNet(更深)、Inception(更宽)、DenseNe(更稠密)t这三个backbone网络结构

各自的亮点：

1）ResNet：通过残差模块解决“网络退化”的问题，使得网络能够更深。

2）Inception：通过使用多个尺寸的卷积核，能够获取多尺度大小的感受野信息，使得网络更宽。

3）DenseNet：使用更稠密的网络连接方式，达到Resnet的效果，也使得网络更深，且参数量比Resnet少一些(卷积核数量少)。

一、ResNet

1. Resnet要解决的是什么问题

  • 深度神经网络的“退化”问题。

        我们知道，对浅层网络逐渐叠加layers，模型在训练集和测试集上的性能会变好，因为模型复杂度更高了，表达能力更强了，可以对潜在的映射关系拟合得更好。而“退化”指的是，给网络叠加更多的层后，性能却快速下降的情况。

2. Residual Block的设计

        𝐹(𝑥)+𝑥构成的block称之为Residual Block，即残差块，如下图所示：

        一个残差块有2条路径𝐹(𝑥)和𝑥，𝐹(𝑥)路径拟合残差，不妨称之为残差路径，𝑥路径为identity mapping恒等映射，称之为”shortcut”。图中的⊕为element-wise addition，要求参与运算的𝐹(𝑥)和𝑥的尺寸要相同。 

1）残差路径𝐹(𝑥)的两种形式

        一种有bottleneck结构，即下图右中的1×1 卷积层，用于先降维再升维，主要出于降低计算复杂度的现实考虑，称之为“bottleneck block”，另一种没有bottleneck结构，如下图左所示，称之为“basic block”。basic block由2个3×3卷积层构成，bottleneck block由1×1

两种残差路径：右边为了减少计算量，先使用1*1Conv降低维度，后面再升维回去

2）shortcut路径的两种形式

两种shortcut：一种直接传递，另一种经过1*1Conv升维或采样

3. ResNet 网络结构

         ResNet为多个Residual Block的串联，下面直观看一下ResNet-34与34-layer plain net和VGG的对比，以及堆叠不同数量Residual Block得到的不同ResNet。

Resnet与VGG网络的对比
不同block数量的Resnet

参考链接：https://www.cnblogs.com/shine-lee/p/12363488.html

二、Inception

1. Inception系列想要解决的问题

        Google家的Inception系列模型提出的初衷主要为了解决CNN分类模型的两个问题：

  1. 其一是如何使得网络深度增加的同时能使得模型的分类性能随着增加，而非像简单的VGG网络那样达到一定深度后就陷入了性能饱和的困境（Resnet针对的也是此一问题）；
  2. 其二则是如何在保证分类网络分类准确率提升或保持不降的同时使得模型的计算开销与内存开销充分地降低。

2. Inception V1-2014年

        Inception V1模块提出可以使网络变宽，在保证模型质量的前提下，减少参数个数，提取高维特征。

        Inception结构，首先通过1x1卷积来降低通道数把信息聚集一下，再进行不同尺度的特征提取以及池化，得到多个尺度的信息，最后将特征进行叠加输出（官方说法：可以将稀疏矩阵聚类为较为密集的子矩阵来提高计算性能）。

不同尺寸的卷积提取多尺度信息

主要过程：

  1. 相应的在3x3卷积和5x5卷积前面、3x3池化后面添加1x1卷积，将信息聚集且可以有效减少参数量（称为瓶颈层）；
  2. 下一层block就包含1x1卷积，3x3卷积，5x5卷积，3x3池化(使用这样的尺寸不是必需的，可以根据需要进行调整)。这样，网络中每一层都能学习到“稀疏”（3x3、5x5）或“不稀疏”（1x1）的特征，既增加了网络的宽度，也增加了网络对尺度的适应性；
  3. 通过按深度叠加(deep concat)在每个block后合成特征，获得非线性属性。

3. Inception V2、Inception-V3 -2015年

  • 分解卷积核尺寸，包括：改用多个小尺寸卷积核替换大尺寸卷积核(5*5)
  • 加入BN层，尤其是在额外的辅助分类器上添加BN层
  • 使用label smoothing对网络loss进行规则化处理
把V1里的5*5 filter换成了两个3*3（感受野不变，快了2.78倍）

 

4. 总结

        inception是通过增加网络的宽度来提高网络性能，在每个inception模块中，使用了不同大小的卷积核，可以理解成不同的感受野，然后将其concentrate起来，丰富了每层的信息。之后，使用了BN算法（BN使用在conv之后，relu之前），来加速网络的收敛速度。在V3版本中，还使用了卷积因子分解的思想，将大卷积核分解成小卷积，节省了参数，降低了模型大小。在V4版本中，使用了更加统一的inception模块，并结合了resnet的残差思想，能将网络做得更深。


参考链接：https://blog.csdn.net/weixin_45422462/article/details/108416139

三、DenseNet

        DenseNet是与Resnet不同的另外一种较深的网络，它的精髓是Dense Block的结构不同。

3.0 DenseNet优点:

  • (1) 相比ResNet拥有更少的参数量(由于特征复用，每层卷积核的个数想对可以减少一些).
  • (2) 支路更多，加强了特征的重复使用和传递(某层的特征会通过支路传递给该block中后面的每一层).
  • (3) 网络更易于训练,并具有一定的正则效果.
  • (4) 缓解了梯度消失(gradient vanishing)和模型退化(model degradation)的问题.

3.1 DenseNet与Resnet的区别：

1. Resnet block公式：

        第一个公式是ResNet的。这里的l表示层，xl表示l层的输出，Hl表示一个非线性变换。所以对于ResNet而言，l层的输出是l-1层的输出加上对l-1层输出的非线性变换。

2. Dense block公式：

        第二个公式是DenseNet的。[x0,x1,…,xl-1]表示将0到l-1层的输出feature map做concatenation。concatenation是做通道的合并，就像Inception那样。而前面resnet是做值的相加，通道数是不变的。Hl包括BN，ReLU和3*3的卷积。

主要区别：Dense block中第i层的输入不仅与i-1层的输出相关,还有所有之前层的输出有关。

1.Resnet block结构图

resnet block:一个block块中只有一条连接支路

2. Dense block的结构图

Dense block中第i层输入：前面的 i-1 层都会有一个分支传递过来,一个block共有
i-1个支路线

3.2 DenseNet网络结构图

整个DenseNet由3个Dense Block组成，block中间有下采样等操作

 

不同大小的DenseNet网络结构组成
超级无敌陈大佬的跟班
关注
  • 5
    点赞
  • 踩
  • 38
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
Faster R-CNN backbone - ResNet101.zip
07-03
标题"Faster R-CNN backbone - ResNet101.zip"涉及的是计算机视觉领域的一个关键算法——Faster R-CNN（快速区域卷积神经网络），它使用ResNet101作为其基础特征提取网络。Faster R-CNN是目标检测领域的里程碑式工作...
深度学习最先进的Backbone汇总
03-16
传统的Backbone网络，如VGG、ResNet、Inception等，曾在图像处理任务中取得了显著的成果。但随着技术的发展，更多具有创新结构的Backbone网络被提出，它们在处理复杂数据和任务时展示了更强大的性能。例如，DenseNet...
经典卷积网络进阶--ResNet详解
笼中鸟
04-21 4068
一.ResNet概述 resnet在2015名声大噪,微软公司提出了一种新的网络结构---残差网络（resnet）。残差模块结构图如下图1，图中曲线连接方式（X identity）称为近道连接，这种连接方式直接跳过了权重层；经过权重层的连接方式（F(X)）与近道连接（X identity）构成了残差模块 图1 残差网络是由一系列残差块组成的（1式）。一个残差块可以用表示为： 残差块分...
图像分类的模型选择：ResNet vs. Inception vs. VGG
禅与计算机程序设计艺术
12-27 582
1.背景介绍 图像分类是计算机视觉领域中的一个重要任务，其目标是将一幅图像映射到其对应的类别标签。随着深度学习技术的发展，Convolutional Neural Networks(卷积神经网络，简称CNN)成为图像分类任务中最常用的方法。在过去的几年里，我们看到了许多高效的CNN架构，如ResNet、Inception和VGG等。这些架构在ImageNet Large Scale Visual...
Resnet模型详解
m0_62919535的博客
08-24 6935
Resnet是一种深度神经网络架构，被广泛用于计算机视觉任务，特别是图像分类。它是由微软研究院的研究员于2015年提出的，是深度学习领域的重要里程碑之一。
简介高效的 CV 入门指南: 100 行实现 InceptionResNet 图像分类
我是小白呀的博客
02-21 982
探索计算机视觉的强大世界：这篇高效的入门指南将教你如何在不到100行代码中实现InceptionResNet模型。无论你是深度学习新手还是希望扩展你的技能集，本指南提供了简明的步骤和必要的解释，帮助你快速理解并应用这一先进的图像识别技术。开始你的计算机视觉之旅，解锁图像处理的无限可能。
【图像分类】【深度学习】【Pytorch版本】Inception-ResNet模型算法详解
yangyu0515的博客
11-21 1783
【图像分类】【深度学习】【Pytorch版本】Inception-ResNet模型算法详解
ResNets和Inception的理解
legend_hua的博客
04-10 1万+
翻译自吴恩达的deeplearning.ai课程，及时记录下来。原网址：点击打开链接     1、残差网络（Residual Networks (ResNets)） 非常非常深的神经网络是很难训练的，因为存在梯度消失和梯度爆炸问题。这节课我们学习跳跃连接（Skip connection），它可以从某一层网络层获取激活，然后迅速反馈给另外一层，甚至是神经网络的更深层。我们可以利用跳跃连接构建...
深度学习卷积神经网络——经典网络GoogLeNet(Inception V3)网络的搭建与实现
热门推荐
loveliuzz的博客
01-23 9万+
一、Inception网络（google公司）——GoogLeNet网络的综述 获得高质量模型最保险的做法就是增加模型的深度（层数）或者是其宽度（层核或者神经元数）， 但是这里一般设计思路的情况下会出现如下的缺陷： 1.参数太多，若训练数据集有限，容易过拟合； 2.网络越大计算复杂度越大，难以应用； 3.网络越深，梯度越往后穿越容易消失，难以优化模型。  解决上述两个缺点的根本
【深度学习模型】CNN的进击之路——讲讲ResNet, Inception, ResNeXt和Densenet等常见网络
tobefans的博客
06-23 1109
本文是一篇大杂烩，按照发布时间总结了CNN的一些常见网络。
深度学习网络结构图绘制工具及方法
soderayer的博客
08-07 1万+
汇总一些深度学习网络结构图的工具，这些软件都是只能作为模型图的辅助，更常见的模型组合型的图还是要ppt来画了，或许还有visio。
Inception系列和ResNet的成长之路
IT荻的博客
12-06 8323
小总结一下Inception v1——Inception v4的发展历程 1.Inception V1 通过设计一个系数网络结构，但是能够产生稠密的数据，既能增加神经网络的表现，又能保证计算资源的使用效率。 通过Split-Merge包含了1 * 1,3 * 3,5 * 5的卷积，3*3的池化，可以增加网络对多尺度的适应性，当然，增加了网络的宽度。 这里v1网络给人眼前一亮的是有一个Bottlen...
深度学习 Deeplabv3+Resnet101 实战分割项目、多尺度训练、多类别分割：腹部多脏器5类别分割数据集
02-09
本项目为 Deeplabv3+Resnet101 多尺度分割实战项目（包含数据集），unet的backbone更换为resnet101 数据集采用腹部多脏器5类别分割数据集 项目介绍：总大小243MB 1.train 脚本会自动训练，代码会自动将数据随机缩放...
深度学习 Deeplabv3+Resnet101 多尺度训练、多类别分割：BraTS3d脑肿瘤图像切分的2D图片分割项目-4分类
04-03
本项目为 deeplab+Resnet101 多尺度分割实战项目（包含数据集），backbone更换为resnet101 数据集采用大BRATS图像分割数据集，可直接运行 1.train 脚本会自动训练，代码会自动将数据随机缩放为设定尺寸的0.5-1.5倍...
基于卷积神经网络ResNet DenseNet对38类植物病害识别并生成简单的UI界面源码+项目说明.zip
最新发布
05-09
在本项目中，开发者利用了深度学习中的卷积神经网络（CNN）模型——ResNet与DenseNet，针对38种不同的植物病害进行了图像识别。这两种网络结构都是计算机视觉领域非常重要的进展，它们在图像分类任务上表现卓越，...
深度学习入门笔记之DenseNet网络
阿布拉卡的博客
03-17 7681
深度学习入门笔记之DenseNet网络
深度学习课程--ResNet 模型 + Inception模型的简单介绍
Jiana_Feng的博客
11-28 1244
这里将会介绍近年来最火的模型 ResNet 模型-残差神经网络（2014） ResNet 是因为对神经网络深度的观察，而提出的一个模型。之前人们观察到，为什么非常深度的网络在增加更多层的时候，表现会变差？ 按直觉，越深的网络理应效果更好，或者至少不变差。 假设我们已经构建了一个N层的网络，实现了一定的精度，那么在这个基础上，再建立一层，即N+1层的网络模型，按理说，应该也会有差不多的精度，但是实际上，表现会更差。所以有人提出，这是因为直接映射是难以学习的，即x–>H(x)中会损失很多信息。于是有人提出
深度学习之Inception-ResNet
Ton的博客
03-21 1万+
这篇文章由谷歌在17年提出，收启发于何凯明提出的ResNet在深度网络上较好的表现影响，作者将Residual connection加入到Inception结构中形成2个Inception-ResNet版本的网络以及一个纯Inception-v4网络。 参考目录： ①：论文补充版本(主要是补充一些图) ②：从Inception v1到Inception-ResNet，一文概览Inception家族的「奋斗史」 ③：论文笔记1 ④：论文笔记2 截至这篇文章发表，谷歌提出的关于Inception块组成的Goog
BackBone Network
baocui1522的博客
03-13 2355
总结至维基百科https://en.wikipedia.org/wiki/Backbone_network 骨干连接各个网络，用于不同的局域网或子网（LANsorsubnetworks）之间信息交换。 骨干可以将同一建筑物中的不同网络，校园环境中的不同建筑物或开阔区域（wide areas）中的不同网络连接在一起。例如一个大公司有很多分公司，这样的公司可能就有一个骨干网络将不同地...
使用resnet骨干网络提取图像特征怎样加入inception多尺度模块
05-25
可以使用ResNet的最后一个卷积层的输出作为输入，然后添加Inception多尺度模块，将不同尺度的卷积核并行应用到输入特征上，最后将不同尺度的输出特征拼接在一起。具体步骤如下： 1. 使用ResNet骨干网络提取图像特征，得到最后一个卷积层的输出。 2. 定义Inception多尺度模块，包括不同尺度的卷积核和池化核，并行应用到输入特征上，得到不同尺度的输出特征。 3. 将不同尺度的输出特征拼接在一起，得到最终的特征表示。 4. 将最终的特征表示输入到全连接层进行分类或者回归等任务。 以下是代码示例，假设ResNet的最后一个卷积层输出为`x`，Inception多尺度模块包括3个分支： ```python import torch.nn as nn class InceptionModule(nn.Module): def __init__(self, in_channels, out_channels): super(InceptionModule, self).__init__() # 1x1 convolution branch self.branch1x1 = nn.Conv2d(in_channels, out_channels, kernel_size=1, stride=1) # 3x3 convolution branch self.branch3x3 = nn.Sequential( nn.Conv2d(in_channels, out_channels, kernel_size=1, stride=1), nn.Conv2d(out_channels, out_channels, kernel_size=3, stride=1, padding=1) ) # 5x5 convolution branch self.branch5x5 = nn.Sequential( nn.Conv2d(in_channels, out_channels, kernel_size=1, stride=1), nn.Conv2d(out_channels, out_channels, kernel_size=5, stride=1, padding=2) ) # max pooling branch self.branch_pool = nn.Sequential( nn.MaxPool2d(kernel_size=3, stride=1, padding=1), nn.Conv2d(in_channels, out_channels, kernel_size=1, stride=1) ) def forward(self, x): out1x1 = self.branch1x1(x) out3x3 = self.branch3x3(x) out5x5 = self.branch5x5(x) out_pool = self.branch_pool(x) out = torch.cat([out1x1, out3x3, out5x5, out_pool], dim=1) return out class ResNetInception(nn.Module): def __init__(self, num_classes): super(ResNetInception, self).__init__() self.resnet = models.resnet50(pretrained=True) self.inception1 = InceptionModule(2048, 512) self.inception2 = InceptionModule(2048 + 4 * 512, 1024) self.inception3 = InceptionModule(2048 + 4 * 1024, 2048) self.fc = nn.Linear(2048, num_classes) def forward(self, x): # ResNet backbone x = self.resnet.conv1(x) x = self.resnet.bn1(x) x = self.resnet.relu(x) x = self.resnet.maxpool(x) x = self.resnet.layer1(x) x = self.resnet.layer2(x) x = self.resnet.layer3(x) x = self.resnet.layer4(x) # Inception module 1 out1 = self.inception1(x) # Inception module 2 out2 = torch.cat([x, out1], dim=1) out2 = self.inception2(out2) # Inception module 3 out3 = torch.cat([x, out1, out2], dim=1) out3 = self.inception3(out3) # Global average pooling and fully connected layer out = F.adaptive_avg_pool2d(out3, output_size=1) out = out.view(out.size(0), -1) out = self.fc(out) return out ``` 在上面的代码中，ResNet50骨干网络的输出为`x`，然后分别经过3个Inception多尺度模块，每个模块的输出作为下一个模块的输入。最终的特征表示为第3个模块的输出，经过全局平均池化后输入到全连接层进行分类。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值