【温故知新】深度学习中的1x1卷积核

最新推荐文章于 2024-05-07 12:34:55 发布
最新推荐文章于 2024-05-07 12:34:55 发布
阅读量391 收藏 2
点赞数 1
分类专栏： 深度学习 # 温故知新
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_29598161/article/details/106368053
版权

对于1x1矩阵最直观的感受是能有什么作业，滑动的时候怎么提取特征。其实最开始就理解错了。1x1卷积不是用来取特征的，而是用来降维和升维

1x1卷积核，又称为网中网（Network in Network）

理解中的样子

在这里插入图片描述
emmm， 这不就是对每个像素乘以卷积核权重嘛，比较好理解

降维和升维

在这里插入图片描述
当输入时多通道的，比如上图32通道，6x6大小。给定卷积6x6，既然做卷积操作，卷积核的通道数要与输入通道数一致，所以实际上卷积的参数为6x6x32。
如果只个1个卷积核，那么结果就变为1通道，结果中的每个像素值是32个通道累加的结果。所以给定卷积核个数小于输入通道数就实现降维。如果大于则升维。
在这里插入图片描述

输入通道为3
左图卷积个数为2<3，所以降维
右图卷积个数为4>3，所以升维

参考

一文读懂卷积神经网络中的1x1卷积核

snoopy_21
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
1*1卷积核的理解
weixin_38410551的博客
01-14 299
可以在不改变分辨率的前提下，提高卷积核提取特征的能力。 能够进行降维和升维。（通道数） 意义：可以完成不同通道的特征图之间信息的融合，提高特征的提取能力。 首先应用于goolenet, Resnet也在用。 参考链接： https://blog.csdn.net/amusi1994/article/details/81091145 ...
1x1卷积和池化操作
qq_40630902的博客
08-07 1949
1x1卷积和池化操作 1. 本质 1x1卷积和池化操作的本质是压缩feature mapping（输入层） 1x1卷积通过改变feature mapping（输入层）的通道数量，具体操作是减少通道数量实现压缩 池化操作通过改变feature mapping（输入层）的尺寸（宽和高） 2. 1x1卷积操作 假设这是一个28×28×192的输入层，如果通道数量很大，该如何把它压缩为28×28×32维度的层呢？你可以用32个大小为1×1的过滤器，严格来讲每个过滤器大小都是1×1×192维，因为过滤器中通道数量
深度学习基础学习-1x1卷积核的作用（CNN中）
小夭的博客
11-09 2万+
1x1卷积核作用
1*1卷积原理及作用
最新发布
shixiaoheya的博客
05-07 429
输入：3*3*1。前面2个3代表图片的高(h)和宽(w)，h*w可以理解为图片的分辨率。1代表通道数(channel)。每个格子上的数字可以理解为像素值。卷积核：大小为1*1（卷积核也就是kernnel，卷积核是一个二维的概念），卷积核上的数字可以理解为权重（weight）输出：3*3*1。输入图片每个格子上像素与卷积核权重的乘积。
卷积神经网络 1*1 卷积核
牧野的博客
01-31 9314
卷积神经网络中卷积核的作用是提取图像更高维的特征，一个卷积核代表一种特征提取方式，对应产生一个特征图，卷积核的尺寸对应感受野的大小。 经典的卷积示意图如下： 5*5的图像使用3*3的卷积核进行卷积，结果产生3*3（5-3+1）的特征图像。 卷积核的大小一般是（2n+1）*(2n+1)的奇数乘奇数大小（n>=1），最常用的有3*3,5*5,7*7的。之所有使用奇数*奇
深度学习（2）卷积神经网络卷积层1*1卷积核
weixin_42535423的博客
12-25 2397
深度学习（2） 卷积神经网络中卷积核的作用是提取图像更高维的特征，一个卷积核代表一种特征提取方式，对应产生一个特征图，卷积核的尺寸对应感受野的大小。 经典的卷积示意图如下： 55的图像使用33的卷积核进行卷积，结果产生3*3（5-3+1）的特征图像。 卷积核的大小一般是（2n+1）(2n+1)的奇数乘奇数大小（n>=1），最常用的有33,55,77的。之所有使用奇数奇数而不是偶数偶数大小的...
例谈小学数学教学中促进深度学习的策略.pdf
08-18
【深度学习在小学数学教学中的应用】 深度学习是一种教育理念，强调学生在学习过程中积极参与、充分体验、意义建构和迁移应用。在小学数学教学中，教师可以采用多种策略来促进这种深层次的学习。以下是对这些策略的...
基于深度学习的小学数学明理教学探析.pdf
08-18
《基于深度学习的小学数学明理教学探析》这篇论文主要探讨了如何利用深度学习理论改进小学数学教学，以提高学生对数学知识的理解和应用能力。深度学习是一种以学生为中心，强调探究、思考、交流和创新的学习模式。在...
初中信息技术深度学习微探究 (2).pdf
08-18
深度学习是现代教育中一种重要的教学模式，尤其在信息技术学科中具有显著的应用价值。深度学习强调在掌握基础知识的同时，学生能够批判性地思考和吸收新知识，从而形成独立、深入的学习能力。在初中信息技术课堂上，...
javascript中的一些核心知识点以及需要注意的地方
03-03
就是几个demo不断测试，感觉没有什么可说的最后甚至对webapp中的History的处理方案也是有一些心得，一点方案，但是依旧难以整理成文，于是便开始文荒了这个时候不妨便温故知新吧，对javascript的一些老知识点进行...
1×1卷积核的简单讲解
TBTB的博客
06-12 7433
1×1卷积核主要功能是改变通道数目，致使减少计算量。在使用1×1卷积核的过程中，不改变原始图片的宽度和高度，它只是改变了通道数。它同时对原始图片的所有信道进行卷积，融合成一个值，如下图所示： 上图是一个图片的三个通道，通过 1×1卷积核，形成了与原始图片相同高与宽图片，只是通道变为了 1 的 features map，1×1卷积之后的值，如下所示： 以下图为例，我们可以考到，计算量明显减少。 ...
一文读懂卷积神经网络中的1x1卷积核
小白学视觉
01-01 2895
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达前言在介绍卷积神经网络中的1x1卷积之前，首先回顾卷积网络的基本概念[1]。1. 卷积核（convolutional kernel）：可以看作对某个局部的加权求和；它是对应局部感知，它的原理是在观察某个物体时我们既不能观察每个像素也不能一次观察整体，而是先从局部开始认识，这就对应了卷积。卷积核的大小一般有1x1,3x3和5x5的...
深度学习笔记（六）：1x1卷积核的作用归纳和实例分析
呆呆象呆呆的博客
07-16 7700
文章目录一、1x1卷积核介绍二、举例说明实际作用例子1：线性变换例子2：降低通道数（归纳整理进行一次输入通道间的非线性映射）三、1x1卷积核作用降低/提升通道数增加非线性跨通道信息交互（channal 的变换）四、1x1卷积应用InceptionResNet参考文献待看文献 一、1x1卷积核介绍 1x1卷积核，又称为网中网（Network in Network）。 其实1x1卷积，可以看成一种全连接（full connection）。 二、举例说明实际作用 例子1：线性变换 这里通过一个例子来直观地介绍1x
1X1卷积
weixin_53297048的博客
06-30 1073
在学习1x1卷积之前，我们先对多通道卷积进行简单的回顾，这样更方便对1x1卷积的理解多通道卷积是将各通道的卷积后对应位置累加求和，简单的说就是。
如何理解卷积神经网络中的1*1卷积
热门推荐
zhangxu
07-10 5万+
我们都知道，卷积核的作用在于特征的抽取，越是大的卷积核尺寸就意味着更大的感受野，当然随之而来的是更多的参数。早在1998年，LeCun大神发布的LetNet-5模型中就会出，图像空域内具有局部相关性，卷积的过程是对局部相关性的一直抽取。 但是在学习卷积神经网络的过程中，我们常常会看到一股清流般的存在—1*1的卷积！比如在残差网络的直连里： 残差网络的Bootleneck残差模块里： 比如在Go
详细学习1*1卷积核
庆志的小徒弟
10-08 2万+
1*1卷积是大小为1*1的滤波器做卷积操作，不同于2*2、3*3等filter，没有考虑在前一特征层局部信息之间的关系。我们从1*1卷积的两个主要使用来理解其原理和作用。 卷积核：可以看作对某个局部的加权求和，它是对应局部感知，它的原理是在观察某个物体时我们既不能观察每个像素也不能一次观察整体，而是先从局部开始认识，这就对应了卷积。卷积核的大小一般有1x1,3x3和5x5的尺寸。卷积核的个数就...
1*1卷积核
timetime88的博客
09-17 333
11卷积核 一、1x1卷积的作用？ 1改变数据维度（存储方式） 因为11卷积不改变图形的大小，当对同一个特征图用数值不同的11的卷积核时，会得到到不同的输出，当同时使用多个卷积核时就可以改变模型的维度，比如，一张500 * 500且厚度100 的图片在20个卷积核上做11的卷积，那么结果的大小为50050020。 2.增加模型的深度减少参数量 3增加非线性 通常情况下，在构建网络模型时会使用激活函数，当使用1*1的卷积核来加深了网络模型，使用的激活函数的次数就会变多，激活函数大多是非线性的（有利于分离
1*1卷积核的作用
菜鸟起飞
08-13 5万+
作用： 跨通道的特征整合 特征通道的升维和降维 减少卷积核参数（简化模型） 1 跨通道的特征整合 如果当前层和下一层都只有一个通道那么1×1卷积核确实没什么作用，但是如果它们分别为m层和n层的话，1×1卷积核可以起到一个跨通道聚合的作用，所以进一步可以起到降维（或者升维）的作用，起到减少参数的目的。 这里通过一个例子来直观地介绍1x1卷积。输入6x6x1的矩阵，这里的1x1卷积形式为1x1x1，即为元素2，输出也是6x6x1的矩阵。但输出矩阵中的每个元素值是输入矩阵中每个元素值x2的结果。 ..
详解 1x1 卷积核
绿色羽毛
11-17 2311
表面看来，1x1 卷积核似乎并不是真正的滤波器，它只是将图像的每个点都乘以 1 个权重，再加上 1个偏置；因此，通过 N个 1x1 卷积核，只需少量参数，就能将 M张图像变为 N张图像； 应用场景 如需将图像分为 N类，可在最后用 1x1 卷积层 将 M张图像转换为 N张图像，在通过全局池化变为 N个数字，送入 Softmax计算输出； 可用 1x1 卷积层作为 瓶颈层。假设输入通道是 256个，要求经过 3x3卷积，最后输出通道也是 256个，那么有 2种实现方式： 直接送入3x3 卷积层，
"Spring AOP：深度剖析面向切面编程
Spring的AOP（面向切面编程）是Spring框架最为重要的特性之一。...通过学习和使用AOP，我们能够更好地理解和应用Spring框架。希望通过本文的介绍，读者能对Spring的AOP有一个初步的了解，并能在实际开发中灵活运用。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值