卷积——一维卷积、二维卷积、三维卷积、深度可分离卷积

最新推荐文章于 2024-06-15 11:11:39 发布
最新推荐文章于 2024-06-15 11:11:39 发布
阅读量8.3k 收藏 30
点赞数 2
分类专栏： 深度学习 文章标签： python 算法 pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wd_2ee/article/details/123840567
版权

目录

概述

不同维度的卷积实际上是卷积核的自由度不同，一维卷积卷积核只能在长度方向上进行滑窗操作，二维卷积可以在长和宽方向上进行滑窗操作，二维卷积可以在长、宽以及channel方向上进行滑窗操作。
一个卷积核运算一次得到一个值，output channel取决于卷积核的个数。

一维卷积

二维卷积

在卷积操作中我们只能限制卷积核的维度，卷积核的参数均是根据网络自主学习到的。
在这里插入图片描述

二维单通道卷积

在这里插入图片描述

二维多通道卷积

在这里插入图片描述

三维卷积

三维单通道卷积

这里的三维输出不是多通道导致的，而是由于卷积核在第三个维度上进行滑窗得到的（对于视频信号可能是视频的长度）。
在这里插入图片描述

三维多通道卷积

三维多通道的卷积核也是三维的，因此三维数据不同channel上权重是相同的，这点和二维多通道卷积不同。

在这里插入图片描述

深度可分离卷积

常规卷积

在这里插入图片描述

深度可分离卷积

在这里插入图片描述
在这里插入图片描述
参数对比
回顾一下，常规卷积的参数个数为：
N_std = 4 × 3 × 3 × 3 = 108

Separable Convolution的参数由两部分相加得到：
N_depthwise = 3 × 3 × 3 = 27
N_pointwise = 1 × 1 × 3 × 4 = 12
N_separable = N_depthwise + N_pointwise = 39

相同的输入，同样是得到4张Feature map，Separable Convolution的参数个数是常规卷积的约1/3。因此，在参数量相同的前提下，采用Separable Convolution的神经网络层数可以做的更深

参考链接

理解卷积
深度可分离卷积

_Vixerunt
关注
  • 2
    点赞
  • 踩
  • 30
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
卷积、分组卷积、深度可分离卷积、可变型卷积、空洞卷积介绍
weixin_41986795的博客
07-22 1059
**思想：**从函数（或者说映射、变换）的角度理解：卷积过程是在图像每个位置进行线性变换映射成新值的过程，将卷积核看成权重，从这个角度看，多层卷积是在进行逐层映射，整体构成一个复杂函数，训练过程是在学习每个局部映射所需的权重，训练过程可以看成是函数拟合的过程 从模版匹配的角度理解：卷积与相关在计算上可以等价，相关运算常用模板匹配，即认为卷积核定义了某种模式，卷积（相关）运算是在计算每个位置与该模式的相似程度，或者说每个位置具有该模式的分量有多少，当前位置与该模式越像，响应越强。卷积神经网络中的隐藏层即可以看
对深度可分离卷积、分组卷积、空洞卷积、转置卷积的理解
YQMind的博客
10-09 4944
参考： https://blog.csdn.net/chaolei3/article/details/79374563 https://blog.csdn.net/jiachen0212/article/details/78548667 https://blog.csdn.net/u014722627/article/details/60574260 https://blog.csdn.net/L...
CNN神经网络之一维卷积、二维卷积详解
凌逆战的博客
07-19 1万+
作者：凌逆战 地址：https://www.cnblogs.com/LXP-Never/p/10763804.html 在看这两个函数之前，我们需要先了解一维卷积(conv1d)和二维卷积(conv2d)，二维卷积是将一个特征图在width和height两个方向进行滑动窗口操作，对应位置进行相乘求和；而一维卷积则只是在width或者height方向上进行滑动窗口并相乘求和。 一维卷积：...
简谈一维卷积
岁月如歌
07-31 2万+
二维卷积在tf中是tf.layers.conv2d()，而一维卷积：tf.layers.conv1d() 1、一维卷积和二维卷积的区别 二维卷积就不赘述了，很多博客写的很好，自己之前也马虎写过一篇，主要讲一下一维卷积。 先讲一下二维卷积和一维卷积的区别，二维卷积是将一个特征图在width和height两个方向进行滑动窗口操作，对应位置进行相乘求和；而一维卷积卷积略有不同，其卷积核也是一个二维的，只是在width(lenth)单方向上进行滑动窗口并相乘求和。 来自：博客 还有有一篇博客写得比较好博客： ht
卷积维度的解释
最新发布
gmlgmlgm的博客
06-15 1037
卷积维度解释
一维卷积和二位卷积的区别
qq_27292549的博客
05-28 7341
数值上的区别：１ｄ只需要输入和输出３维数组（ｂａｔｃｈ，ｃｈａｎｎｅｌ，ｉｎｐｕｔＤｉｍ）                        ２ｄ需要输入输出４维数组（ｂａｔｃｈ，ｃｈａｎｎｅｌ，ｉｎｐｕｔＨ，ｉｎｐｕｔＷ）计算上的区别：１ｄ只在ｉｎｐｕｔＤｉｍ这个维度上计算，例子：ｓｐｅａｋｅｒ　Ｒｅｃｏｇｎｉｔｉｏｎ中每个ｓｅｇｍｅｎｔ有３９维＊３００ｆｒａｍｅ的数据，则只在时间维度上计算，即这里...
一维卷积，二维卷积，三位卷积，1乘1卷积的作用
小菜鸡
07-13 4645
本文介绍1维到3维的卷积，并且描述了1乘1 的卷积为什么能升维降维
一维卷积的意义和二维卷积（图像处理）的简单理解
.
03-11 5万+
在学习机器学习和图像处理的过程中，经常会遇到卷积这个概念。我每次遇到这个概念都有点似懂非懂的样子。有时候清楚它的直观解释，但又搞不清公式中是如何体现的。究其原因，还是我没有完全搞懂这个概念。 维基百科上有一个动态图来演示这个概念，但对于我来说还是有些复杂。于是自己在网上找了很多文章来研究，终于有了比较直观的印象，这里就趁热把我理解的解释一下，作为总结。 一、一维卷积 1.1 数学定义 维基百科上，...
【深度学习】一维卷积和二维卷积的区别
weixin_44001371的博客
10-27 4648
与二维卷积（2D卷积）用于图像处理不同，1D卷积仅考虑数据的一个维度，通常是时间维度或序列中的。1D卷积的操作可以用来捕捉输入序列中的局部模式，例如时间序列中的趋势、周期性模式或其他有趣的特征。这些卷积操作通常用于处理序列数据的特征提取，例如自然语言处理中的文本分类、语音识别中的声学特征提取等任务。尽管1D卷积和2D卷积在数据维度和卷积核形状上有所不同，但它们都是用于捕捉局部特征和模式的有力工具。，即不受物体在图像中位置的改变影响。1D卷积和2D卷积之间的主要区别在于它们处理的数据维度和卷积核的形状。
一维卷积神经网络做回归预测模型
01-05
一维卷积神经网络，cnn，回归预测，多输入，单输出，基于matlab，替换数据和特征个数即可，拿来直接使用。分为清空环境变量、导入数据、划分训练集和测试集、数据平铺、构造网络结构、参数设置、训练模型、均方根...
cnn_1_1维卷积_1维CNN_CNN二维数据_一维卷积_CNN三维
09-11
卷积神经网络包括一维卷积神经网络、二维卷积神经网络以及三维卷积神经网络。一维卷积神经网络常应用于序列类的数据处理;二维卷积神经网络常应用于图像类文本的识别;三维卷积神经网络主要应用于医学图像以及视频类...
CNN0926_一维卷积_matlab1D-CNN
09-11
在本文中，我们将深入探讨一维卷积神经网络（1D Convolutional Neural Networks, 或 1D CNN）以及如何使用MATLAB实现1D-CNN的基本网络结构。1D CNN是一种深度学习模型，专用于处理一维数据，如时间序列、音频信号或...
双三维卷积_双三维卷积_
09-28
双三维卷积（Dual 3D Convolution）是一种深度学习技术中的特殊卷积操作，它在计算机视觉和图像处理领域，特别是在地物分类任务中，展现出强大的能力。传统的二维卷积主要用于处理二维图像数据，而三维卷积则扩展到...
juanji.rar_二维矩阵卷积_卷积
09-20
二维矩阵卷积是图像处理和线性系统理论中的核心概念，它在计算机视觉、机器学习，尤其是深度学习领域中扮演着重要角色。本压缩包文件"juanji.rar"包含了一个名为"juanji.ppt"的演示文稿，该文稿详细讲解了二维卷积的...
二维卷积与一维卷积区别
MerryQT的博客
11-06 6858
卷积神经网络常用在图像处理与语音识别领域，它与全连接网络不同的是，网络结构中加入了卷积层和池化层，并且神经元之间是局部连接，即每个神经元只与上一层的部分神经元相连，这样就减少了许多权重和偏置参数。其次，它遵循权值共享机制，即一组连接可以共享同一个权重，而不是每个连接有不同权重。再次，卷神经网络可以采用下采样或者池化层来减少每层样本数，剔除与样本无关的特征信息，进一步减少了网络参数。所以综合卷积神经...
一维卷积（1D-CNN）、二维卷积（2D-CNN）、三维卷积（3D-CNN）
热门推荐
biubiusion的博客
06-05 5万+
一维卷积神经网络（1D-CNN） 一维卷积常用在序列模型、自然语言处理领域； 假设输入数据维度为8，filter维度为5； 不加padding时，输出维度为4，如果filter的数量为16，那么输出数据的shape就是； 二维卷积神经网络（2D-CNN） 二维卷积常用在计算机视觉、图像处理领域（在视频的处理中，是对每一帧图像分别利用CNN来进行识别，没有考虑时间维度的信息）； 假设原始图像 shape 为（其中3为3个通道），使用32个大小为（其中3为深度，与通道数相同）的卷积核对其进行
pytorch一维卷积与二维卷积含义及使用示例
呆萌的代Ma
05-16 5033
卷积（Convolution）操作比较常见，是通过一个卷积核在特征图上的滑动，得到另一个特征图 卷积操作通常被理解为提取局部特征 以二维卷积为例，通常有以下三种模式： Full Mode：以卷积层最下角对齐输入的最上角，最后会导致输入维度 < 输出维度，其中浅色的地方一般是补0 Valid Mode：从输入的最上角开始，最后输入维度 > 输出维度 Same Mode：自适应匹配位置，使最终的输入维度 = 输出维度 在pytorch里直接指定输入输出，而不需要指定模式 一维卷积 import
一维卷积与二维卷积：Conv1d与Conv2d详解
Codefmeister's BLOG
12-15 2万+
Conv1d与Conv2d 本文分为几个部分来详解Conv2d与Conv1d。主要侧重于Conv2d 前言 本文记于2020年12月15日，起因是DGCNN中部分卷积使用了二维卷积，部分卷积使用了一维卷积。加之之前对Conv2d与Conv1d属于一种迷迷糊糊的状态，趁着这个机会弄清楚。 Conv2d原理（二维卷积层） 二维互相关运算 互相关运算与卷积运算 虽然卷积层得名于卷积(convolution)运算，但所有框架在实现卷积层的底层，都采用的是互相关运算。实际上，卷积运算与互相关运算类似，为了得到卷积运算
深度可分离卷积原理图
02-19
深度可分离卷积是一种卷积神经网络中常用的卷积操作，它可以有效地减少模型的参数量和计算量，从而提高模型的效率和速度。 深度可分离卷积由两个步骤组成：深度卷积和逐点卷积。 首先是深度卷积，它是对输入数据的每个通道进行独立的卷积操作。具体来说，对于输入数据的每个通道，使用一个卷积核进行卷积操作，得到对应的输出通道。这样，对于输入数据的C个通道，就会得到C个输出通道。 接下来是逐点卷积，它是对深度卷积的输出进行逐点操作。逐点操作是指对每个通道的每个像素点进行独立的卷积操作。具体来说，对于深度卷积的输出的每个通道，使用一个1x1的卷积核进行卷积操作，得到最终的输出结果。 深度可分离卷积的原理图如下所示： ``` 输入数据 --> 深度卷积 --> 逐点卷积 --> 输出结果 ``` 其中，输入数据是一个三维张量，维度为[高度, 宽度, 通道数]；深度卷积使用的卷积核是一个三维张量，维度为[卷积核高度, 卷积核宽度, 输入通道数]；逐点卷积使用的卷积核是一个三维张量，维度为[1, 1, 输入通道数]；输出结果是一个三维张量，维度为[高度, 宽度, 输出通道数]。 通过深度可分离卷积，可以有效地减少模型的参数量和计算量，同时保持较好的模型性能。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值