VGG小卷积代替大卷积 VS 深度可分离卷积

已于 2022-06-09 19:29:28 修改
阅读量302 收藏
点赞数
分类专栏： 模型量化论文 文章标签： 深度学习 cnn 计算机视觉 新手理顺知识
于 2022-06-09 17:47:37 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_49234921/article/details/125205403
版权
本文探讨了VGG网络如何通过使用小卷积来减少参数量，与大卷积相比，其优势在于保持感受野的同时降低模型复杂度。介绍了LeNet卷积参数计算，并详细阐述了深度可分离卷积的工作原理，分为逐通道卷积和1x1卷积两步。此外，文章还提到了Mobilenet中用于压缩模型的通道因子和分辨率乘子，以及MobilenetV2中ReLU可能导致的信息丢失问题。
摘要由CSDN通过智能技术生成

VGG小卷积代替大卷积 VS 深度可分离卷积

在这里插入图片描述

第一部分： VGG小卷积代替大卷积

优势： 感受野一样的，但是参数量减少了将近1/5。

1、1 大卷积

特点：1、参数量大。
2、保留了很多的特征。
在这里插入图片描述

LeNet卷积参数计算

在这里插入图片描述
可训练参数计算可用Y = KX + b来表示，上图中5*5一个卷积核 + 一个偏置。
在这里插入图片描述

普通卷积和深度可分离卷积

在这里插入图片描述

了解本专栏 订阅专栏 解锁全文 超级会员免费看
土豆娃potato
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
VGG使用3*3小滤波器卷积层代替5*5或7*7的大滤波器卷积层以减少参数。
qq_45887419的博客
12-10 3238
首先从卷积计算原理着手，一个5*5的输入，经过一个3*3的滤波器滑动9次，输出一个3*3的数据。输出数据的每个元素都对应5*5的9个窗口，再在输出的3*3数据上使用一个3*3的滤波器，可以得到一个数据，对应的是上一个3*3数据。可见，最后得到的数据是两次观察5*5数据得到的，与用5*5的滤波器观察一次数据可以到达到同样的效果。 VGG就使用此思想，用小滤波器卷积层代替大滤波器卷积层，那为什么这样会减少参数量呢？ 原文如下： 为了便于理解，用代表输入通道数，代表输出通道数。输入通道数和滤波器通道数相
vgg16网络改深度可分离卷积
weixin_52646021的博客
12-21 466
原网络 class CNN0(nn.Module): def __init__(self,imageHeight,nChannel): super(CNN0,self).__init__() assert imageHeight % 32 == 0,'image Height has to be a multiple of 32' self.conv0 = nn.Conv2d(in_channels=nChannel,out_channels=
【笔记】MobileNet_v1：VGG中的 标准卷积层 换成深度可分离卷积
nyist_yangguang的博客
09-25 612
代码：gluon-cv/mobilenet.py at 5f5ce87d9a1df1623e15d39d1d2dc65317337652 · dmlc/gluon-cv · GitHub
主干网络系列(6) - Xception: 使用深度可分离卷积的深度学习
kevin_zhao_zl的博客
02-24 4920
该论文对Inception模块做了新的解释，通过使用深度可分离卷积来代替Inception模块产生了一个新的网络架构，即Xception(Extreme Inception)。
InceptionV3----连续小卷积层代替大卷积层
weixin_30520015的博客
05-05 316
一、介绍 一个5*5的卷积核可以被连续的2个3*3卷积核代替，每个卷积核都经过激活。 1个5*5的卷积核，也可以被2个连续的1*5和5*1卷积核代替。 如图，中间的图用2个3*3的卷积核代替了5*5的卷积核。右边的图引入了1*n和n*1的卷积核 二、作用 1.作者说，在网络的前期使用这种分解，效果并不好。对于中等大小的特征图，边长在12-20之间，效果比较好。 2.通过卷积核...
【卷积神经网络变体模型】VGG模型
03-04
VGG模型以其简单而有效的网络结构而闻名，其核心特点是采用多个较小尺寸的卷积核和池化层来构建深层网络。 适用人群：VGG模型适用于对图像数据进行分类和识别的研究人员、工程师以及深度学习从业者。其简单的网络...
基于python卷积神经网络VGG垃圾图像分类
06-29
【作品名称】：基于卷积神经网络VGG垃圾图像分类 【适用人群】：适用于希望学习不同技术领域的小白或...可作为毕设项目、课程设计、大作业、工程实训或初期项目立项。 【项目介绍】：基于卷积神经网络VGG垃圾图像分类
VGG16卷积神经网络–TensorFlow2
01-21
VGG16卷积神经网络–TensorFlow2结果展示loss和acc曲线计算参数程序 结果展示 loss和acc曲线 epoch = 10 acc = 90.02% 计算参数 程序 # -*- coding: utf-8 -*- Created on Tue Apr 14 2020 @author: jiollos # ...
基于卷积神经网络VGG16模型花卉分类与手势识别.docx
07-05
它的主要特点是使用小尺寸的卷积核（3x3）和深度极深的网络架构，这使得模型能够学习到更复杂的图像特征。 在模型基本框架部分，VGG16包含16个层，分为卷积层和全连接层。卷积层负责从输入图像中提取特征，而全连接...
基于VGG深度卷积神经网络和空间分布的道路裂纹种类识别.pdf
09-25
基于VGG深度卷积神经网络和空间分布的道路裂纹种类识别.pdf
深度学习笔记（一）：卷积变种（分组卷积、空洞卷积、深度可分离卷积、可形变卷积） 卷积中的不一样的操作
热门推荐
呆呆象呆呆的博客
10-24 1万+
文章目录分组卷积（Group Convolution）原理用途常规卷积（Convolution）空洞（扩张）卷积（Dilated/Atrous Convolution）深度可分离卷积（depthwise separable convolution）标准卷积与深度可分离卷积的不同深度可分离卷积的过程深度可分离卷积的优点可变形卷积网络背景想法评价卷积神经网络中十大拍案叫绝的操作一、卷积只能在同一组进行...
VS2019使用C++调用并部署pytorch VGG模型全过程(libtorch+opencv)(cpu+gpu)
W9XM96的博客
10-13 5782
环境配置vs2019+libtorch1.9.0+opencv3.4.2+cuda11.0+cudnn8.0（实测可用，不踩坑） 须知 Libtorch版本需与pytorch版本兼容（最好一致），系统下载与pytorch版本相同的CUDA和Cudnn,否则导入模型将出错。 若想使程序在GPU上运行，需下载GPU版libtorch,其也支持cpu运行。 文中给出图片或许版本与标题不一致，不影响实际操作，作者已亲测可行 libtorch 用C++调用pytorch模型，其目的在于：使用C++及多线程可以加快模
深度可分离卷积（Xception 相关）
dujuancao11的博客
07-20 3707
卷积神经网络经过不断的改进和优化，卷积早已不是当年的卷积，诞生了分组卷积（Group convolution）、空洞卷积（Dilated convolution 或 À trous）等各式各样的卷积。今天主要讲一下深度可分离卷积（depthwise separable convolutions），这是 Xception 以及 MobileNet 系列的精华所在。 从 Inception module 到深度可分离卷积 Xception 的论文中提到，对于卷积来说，卷积核可以看做一个三维的滤波器：通道维.
VGG详解
tt丫的博客
01-04 4282
一、VGG网络的背景 二、VGG网络结构 1、各网络结构参数图示 2、输入 3、双层 —— 一层卷积+（一层卷积+最大池化） 4、三层 —— 两层卷积+（一层卷积+最大池化） 5、全连接层——分类判决 6、拓展：VGG16_bn 三、VGG网络的亮点——连续小卷积核代替大卷积核 四、VGG网络的不足 五、VGG代码实现 一、VGG网络的背景 AlexNet问世之后，很多学者通过改进AlexNet的网络结构来提高自己的准确率，主要有两个方向：小卷积核和多尺度。 而VGG的作者们则选择
Image Classification ——【VGG】
三木今天学习了嘛の博客
10-10 294
虽然AlexNet证明深层神经网络卓有成效，但它没有提供一个通用的模板来指导后续的研究人员设计新的网络。 VGG介绍了一些常用于设计深层神经网络的启发式概念。
深度可分离卷积_深度可分离卷积性能研究
weixin_39541681的博客
12-17 3110
对比普通卷积和深度可分离卷积FLOPs，在不同硬件平台下对比计算强度，实测训练和工程部署的精度和计算量。深度可分离卷积(简写 DepSep Conv)已经被证明了可以作为传统卷积的有效代替方案，并且已经成熟地应用在了很多模型中，例如非常有实际工程意义的两个网络MobileNet[1]和EfficientNet[2]。使用深度可分离卷积的网络相比传统卷积网络，具有较少的参数，并且在浮点运算...
多小卷积核代替大卷积核——VGGNet
稚与的博客
05-23 4792
VGGNet——Visual Geometry Group 文章目录VGGNet——Visual Geometry Group简介主要贡献基本原理预处理数据增强参数初始化网络结构整体架构前五层卷积层后三层全连接层模型评估 简介 2014年，牛津大学计算机视觉组和Google DeepMind公司的研究员一起研发出了新的深度卷积神经网络：VGGNet，并取得了ILSVRC2014比赛分类项目的第二名（第一名是GoogLeNet，也是同年提出的）和定位项目的第一名。 VGGNet可以看成是加深版的AlexNet
卷积神经网络(二)——AlexNet,VGGNet,ResNet,InceptionNet,MobileNet
zhao_crystal的博客
01-31 5864
Q：为什么需要不同的网络结构 不同的网络结构解决的问题不同 不同的网络结构使用的技巧不同 不同的网络结构应用的场景不同 一. 模型的演变与进化 模型演变 AlexNet, VGG, ResNet, Inception, MobileNet 模型的进化 更深更宽——AlexNet到VGGNet 不同的模型结构——VGG到InceptionNet/ResNet 优势组合——I...
VGG 模型原理及 pytorch 代码
ywm_up
02-09 785
文章目录VGG，使用重复元素的网络为什么要用多个小的卷积核替代大的卷积核（小卷积核优势）总结 VGG，使用重复元素的网络 VGG的组成规律是：连续使用多个相同的VGG块，即填充为1、窗口形状为 3 x 3 的卷积层后接一个步幅为2、窗口形状为 2 x 2 的最大池化层。卷积层保持输入的高和宽不变，而池化层则对其减半。 我们使用vgg_block函数来实现这个基础的VGG块，它可以指定卷积层的数量和输入输出通道数。 定义VGG块： import time import torch from torch imp
VGG16卷积核大小
最新发布
07-21
VGG16是一种深度学习模型，由牛津大学的研究者提出，用于计算机视觉任务，尤其是图像分类。它包含了一系列的卷积层（Convolutional Layers），每个卷积层的结构通常是固定的，以便于训练和理解。 VGG16的基本架构...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

土豆娃potato

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值