ResNet 18 网络结构

最新推荐文章于 2023-03-28 15:43:46 发布
最新推荐文章于 2023-03-28 15:43:46 发布
阅读量1.6w 收藏 23
点赞数 8
分类专栏： 神经网络 python Pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/S20144144/article/details/101372879
版权
神经网络 同时被 3 个专栏收录
16 篇文章 1 订阅
订阅专栏
python
12 篇文章 1 订阅
订阅专栏
Pytorch
9 篇文章 0 订阅
订阅专栏 
import torch
from torchvision import models

resnet = models.resnet18(pretrained=True)
print(resnet)

"""
ResNet(
  (conv1): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False)
  (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  (relu): ReLU(inplace)
  (maxpool): MaxPool2d(kernel_size=3, stride=2, padding=1, dilation=1, ceil_mode=False)
  (layer1): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
    (1): BasicBlock(
      (conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (layer2): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(64, 128, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (downsample): Sequential(
        (0): Conv2d(64, 128, kernel_size=(1, 1), stride=(2, 2), bias=False)
        (1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      )
    )
    (1): BasicBlock(
      (conv1): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (layer3): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(128, 256, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (downsample): Sequential(
        (0): Conv2d(128, 256, kernel_size=(1, 1), stride=(2, 2), bias=False)
        (1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      )
    )
    (1): BasicBlock(
      (conv1): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (layer4): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(256, 512, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (downsample): Sequential(
        (0): Conv2d(256, 512, kernel_size=(1, 1), stride=(2, 2), bias=False)
        (1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      )
    )
    (1): BasicBlock(
      (conv1): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (avgpool): AvgPool2d(kernel_size=7, stride=1, padding=0)
  (fc): Linear(in_features=512, out_features=1000, bias=True)
)
"""

# 修改前resnet18最后一层名字叫fc,是1000个输出（1000类），下面修改为100类

resnet.fc = torch.nn.Linear(resnet.fc.in_features, 100)
print(resnet)

"""
ResNet(
  (conv1): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False)
  (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  (relu): ReLU(inplace)
  (maxpool): MaxPool2d(kernel_size=3, stride=2, padding=1, dilation=1, ceil_mode=False)
  (layer1): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
    (1): BasicBlock(
      (conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (layer2): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(64, 128, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (downsample): Sequential(
        (0): Conv2d(64, 128, kernel_size=(1, 1), stride=(2, 2), bias=False)
        (1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      )
    )
    (1): BasicBlock(
      (conv1): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (layer3): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(128, 256, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (downsample): Sequential(
        (0): Conv2d(128, 256, kernel_size=(1, 1), stride=(2, 2), bias=False)
        (1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      )
    )
    (1): BasicBlock(
      (conv1): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (layer4): Sequential(
    (0): BasicBlock(
      (conv1): Conv2d(256, 512, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (downsample): Sequential(
        (0): Conv2d(256, 512, kernel_size=(1, 1), stride=(2, 2), bias=False)
        (1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      )
    )
    (1): BasicBlock(
      (conv1): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
      (relu): ReLU(inplace)
      (conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
      (bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
    )
  )
  (avgpool): AvgPool2d(kernel_size=7, stride=1, padding=0)
  (fc): Linear(in_features=512, out_features=100, bias=True)
)
"""

# 之后采用torchviz模块，对网络结构进行可视化
from torchviz import make_dot
x = torch.randn(10, 3, 224, 224).requires_grad_(True)
y = resnet(x)
vis_graph = make_dot(y, params=dict(list(resnet.named_parameters()) + [('x', x)]))
vise_graph.view()

之后会生成一个pdf，内容如下所示：

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
～’’(- _ -)’'～pdf导入到markdown实在是太麻烦了，就放几个截图意思意思啦。resnet_18_structure.pdf文件已经传到资源上啦，但是竟然需要5积分/C币!!!小白还不知道怎么修改成免费的，所以也就凑合着看看吧^ _ ^

纵心似水
关注
  • 8
    点赞
  • 踩
  • 23
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
ResNet101网络结构.txt
07-24
ResNet101网络结构
ResNet-18超详细介绍！！！！
m0_64799972的博客
09-08 3万+
残差神经网络(ResNet)是由微软研究院的何恺明、张祥雨、任少卿、孙剑等人提出的。ResNet 在2015 年的ILSVRC（ImageNet Large Scale Visual Recognition Challenge）中取得了冠军。残差神经网络的主要贡献是发现了“退化现象（Degradation）”，并针对退化现象发明了 “快捷连接（Shortcut connection）”，极大的消除了深度过大的神经网络训练困难问题。下面我将一步步引出退化现象和快捷连接。
Tiny Face网络框架resnet101预训练模型（hr_res101）
05-24
Tiny face小人脸测试所用的预训练模型，resnet101网络框架的模型文件
经典网络结构总结–ResNet系列
01-06
ResNet 论文：Deep Residual Learning for Image Recognition Motivation：网络越深，能获取的信息越多，而且特征也越丰富。但是根据实验表明，随着网络的加深，优化效果反而越差，测试数据和训练数据的准确率反而降低了（网络退化）。为了让更深的网络也能训练出好的效果，何凯明大神提出了一个新的网络结构——ResNet。这个网络结构的想法主要源于VLAD（残差的想法来源）和Highway Network（跳跃连接的想法来源）。 ResNet Block 残差学习模块包括identity mapping和residual mapping，其中前者指的
resnet_18_structure.pdf
09-25
resnet 18 网络结构（摘要需要大于50个字节，所以请自动忽略这个括号。。。）
ResNet18网络的具体构成
daweq的博客
10-26 4万+
ResNet18的基本含义是，网络的基本架构是ResNet，网络的深度是18层。但是这里的网络深度指的是网络的权重层，也就是包括池化，激活，线性层。3，步长为1，padding为1。这个卷积层的卷积核的大小为7。7，步长为2，padding为3，输出通道为64。也就是说这个池化不改变数据的通道数量，而会减半数据的大小。224，也就是3个通道，每个通道的大小为224*224。也就是将输出通道翻倍，输出数据大小全部减半。也就是将输出通道翻倍，输出数据大小全部减半。54，也就是这一层不改变数据的大小和通道数。
ResNet18详细原理（含tensorflow版源码）
Code_and516的博客
03-28 1万+
ResNet18详细原理（含tensorflow版源码）
图像识别-ResNet-18网络结构图示及解读
算法之美
05-22 3万+
图像识别-ResNet-18网络结构图示及解读
ResNet-18結構
gesshoo的博客
02-27 5176
残差块⾥⾸先有 2 个有相同输出通道数的 3 × 3 卷积层。每 个卷积层后接⼀个批量归⼀化层和 ReLU 激活函数。然后我们通过跨层数据通路，跳过这 2 个卷积运算，将输⼊直接加在最后的 ReLU 激活函数前。这样的设计要求 2 个卷积层的输出与输⼊形状⼀样，从而可以相加。 如 果想改变通道数，就需要引⼊⼀个额外的 1 × 1 卷积层来将输⼊变换成需要的形状后再做相加运算。 import torch from torch import nn from torch....
Resnet 18网络模型
热门推荐
Chenzhinan1219的博客
12-20 4万+
1. 残差网络：（Resnet） 残差块： 让我们聚焦于神经网络局部：如图左侧所示，假设我们的原始输入为x，而希望学出的理想映射为f(x)（作为上方激活函数的输入）。左图虚线框中的部分需要直接拟合出该映射f(x)，而右图虚线框中的部分则需要拟合出残差映射f(x)−x。 残差映射在现实中往往更容易优化。 以本节开头提到的恒等映射作为我们希望学出的理想映射f(x)，我们只需将右图虚线框内上方的加权运算（如仿射）的权重和偏置参数设成0，那么f(x)即为恒等映射。 实际中，当理想映射f(x)极接近于恒等映..
ResNet18的基本原理及tensorflow2.0实现
01-06
注：阅读本博客之前，你需要先掌握：全连接神经网络，卷积神经网络的基本原理。 背景介绍 随着LeNet-5，AlexNet，VGG等神经网络结构的出现，卷积神经网络逐渐从单纯的只拥有卷积操作和下采样的神经网络发展为具有max pooling、dropout以及非线性函数的神经网络。在网络结构变得不断复杂的同时，人们发现，神经网络的效率并没有预期得到提升，反而容易出现梯度消失等情况，因而导致loss难以减少等现象。 对于出现梯度消失的原因，大家可以参考这篇： https://blog.csdn.net/jasonleesjtu/article/details/89185185 ResNet通过在两
ResNet50网络结构.txt
07-24
ResNet50网络结构
UNET ResNet50网络结构 caffe版本
03-06
UNET ResNet50网络结构 caffe版本，
GAN生成图像质量的两个评价指标——IS与FID
S20144144的博客
10-15 3万+
很久没有写原创博客了，最近在研究图像生成，看到关于生成器的评价指标有这么几个——IS（Inception Score）、FID（Fréchet Inception Distance）以及一些其它距离指标，下面主要参考三个博客，写写我的理解与感受吧。
启发主义——深入神经网络（Inceptionism: Going Deeper into Neural Networks）
S20144144的博客
09-03 1475
传统的深度学习方法常用于根据数据标签学习分类、识别物体，或是学习数据或隐层的分布从而生成新的数据。而2015年提出的启发神经网络合成它想合成的图像，则开启了一种新的研究角度。之后开源的Deepdream则更是掀起了新的浪潮。下面我们翻译一下这篇论文。
实验并解读github上三个DeepDream的Pytorch代码
S20144144的博客
09-03 1245
实验并解读github上三个DeepDream的Pytorch代码 今天在学习DeepDream的有关内容，关于论文的翻译已经在启发主义——深入神经网络（Inceptionism: Going Deeper into Neural Networks）一文中进行，而关于代码的实践则在这篇博文中展开。 google官方个给出的开源代码是基于Caffe框架的ipynb文件，但在我的环境中运行Caffe必...
煤矿平巷机车运输安全检查表.docx
最新发布
04-14
煤矿平巷机车运输安全检查表.docx
resnet18网络结构
09-25
### 回答1： ResNet-18是一个基于残差网络的深度卷积神经网络，它包含18个卷积层和全连接层。以下是ResNet-18的网络结构： 输入图像（224x224x3） 卷积层1（7x7卷积核，64个卷积核，步长2）+ BN + ReLU 最大池化层（3x3池化核，步长2） 残差块1（64个卷积核，2个3x3卷积层，每层都有BN和ReLU激活函数） 残差块2（128个卷积核，2个3x3卷积层，每层都有BN和ReLU激活函数） 残差块3（256个卷积核，2个3x3卷积层，每层都有BN和ReLU激活函数） 残差块4（512个卷积核，2个3x3卷积层，每层都有BN和ReLU激活函数） 全局平均池化层 全连接层（1000个神经元） Softmax输出 ResNet-18的关键在于残差块，它允许网络直接拟合残差函数，从而避免了梯度消失问题，使得网络能够更好地训练。 ### 回答2： ResNet-18是一种用于图像分类的卷积神经网络结构。它是ResNet系列网络中的一员，由深度残差网络（Residual Network）发展而来。 ResNet-18主要由多个残差模块组成。每个残差模块中包含两个卷积层和一个跳跃连接。卷积层使用3x3的卷积核进行卷积操作，并使用ReLU激活函数进行非线性变换。跳跃连接将输入直接添加到残差模块的输出，以解决深层网络中的梯度消失问题。 在ResNet-18中，首先是一个7x7的卷积层，用于图像的初步特征提取。然后是一个最大池化层，将图像尺寸缩小为原来的一半。接下来是4个残差模块的堆叠，每个模块中包含两个3x3的卷积层。在每个模块的第一个卷积层后，图像尺寸会减小，通道数会增加。模块之间的通道数和图像尺寸变化如下：64-64、64-128、128-256、256-512。 最后，全局平均池化层将特征图转换成一个向量，并通过一个全连接层映射到最终的分类结果。在全连接层之后，通常还会添加一个softmax层用于分类。 ResNet-18相对于传统的深度卷积网络具有更强的表达能力和更好的训练结果。它采用跳跃连接和残差结构可以有效地解决梯度消失问题，并使网络训练更加稳定和高效。因此，ResNet-18成为了图像分类等任务中的一种重要网络结构。 ### 回答3： ResNet18是一种深度卷积神经网络模型，它是ResNet系列模型中较为简单和轻量级的一种。ResNet18的网络结构由18个卷积层和全局平均池化层组成。 ResNet18的基本模块是残差模块，这种模块可以解决深度网络中的梯度消失和梯度爆炸问题，同时可以加速模型的训练过程。每个残差模块包括两个卷积层，一个标准化层和一个跳跃连接。跳跃连接将输入直接与输出相加，使得梯度能够更轻松地传播。 ResNet18的第一个残差模块由一个7×7的卷积层、一个最大池化层和两个基本的残差模块组成。其余的模块由若干个基本的残差模块组成。最后，全局平均池化层将特征图转换为一个固定长度的向量，并通过一个全连接层将其映射到分类数目的维度。 与其他深度网络相比，ResNet18在参数量和运算量方面都较少，因此更易于训练和部署。它可以很好地解决图像分类、目标检测和语义分割等计算机视觉任务，并在一些基准测试中表现优异。 总之，ResNet18是一种具有18个卷积层和全局平均池化层的深度卷积神经网络模型。通过引入残差模块，它可以有效地训练深度网络，并在图像分类和计算机视觉任务中取得很好的性能。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值