1*1卷积核有什么用

已于 2022-04-18 00:24:05 修改
阅读量1.5k 收藏 5
点赞数 4
分类专栏： NLP(包含深度学习) 文章标签： 自然语言处理
于 2020-05-10 20:25:18 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_22795223/article/details/106041367
版权

之前面试遇到过这个题，这里分享一下

如果卷积的输出输入都只是一个平面,那么1x1卷积核并没有什么意义,它是完全不考虑像素与周边其他像素关系。

但卷积的输入是长方体时,所以1x1卷积实际上是对每个像素点,在不同的channels上进行线性组合(信息整合) ,且保留了图片的原有平面结构,调控depth,从而完成升维或降维的功能。

如下图所示,如果选择2个filters的1x1卷积层,那么数据就从原本的depth 3降到了2。若用4个filters,则起到了升维的作用。
在这里插入图片描述
之前面试遇到过这个题，这里分享一下

Xu_Wave
关注
  • 4
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
奇数卷积核VS偶数卷积核
01-06
1.大卷积核和小卷积核 显然，大卷积核的感受野更大，自然提取特征的性能更好，一个5 * 5的卷积核可以由两个3 * 3的卷积核替换，但是带来的代价是：大卷积核的计算速度更慢，参数量更多。因此，通常使用小卷积核，小...
【深度学习】CNN 中 1x1 卷积核的作用
frank 的专栏
10-19 1万+
最近研究 GoogLeNet 和 VGG 神经网络结构的时候，都看见了它们在某些层有采取 1x1 作为卷积核，起初的时候，对这个做法很是迷惑，这是因为之前接触过的教材的例子中最小的卷积核是 3x3 ，那么，1x1 的卷积核有什么意义呢？ 最初应用 1x1 卷积核的神经网络是 Network In Network，然后 GoogLeNet 和 VGG 也不约而同的更正了。 他们在论文中解释，大概有下...
在卷积神经网络中1x1卷积核有什么作用
进阶的小宋
08-07 679
2.feature map通道数上的降维。举个例子：假设输入的特征维度为100x100x128，卷积核大小为5x5（stride=1，padding=2），通道数为256，则经过卷积后输出的特征维度为100x100x256，卷积参数量为128x5x5x256=819200。1x1卷积核只有一个参数，当它作用在多通道的feature map上时，相当于不同通道上的一个线性组合，实际上就是加起来再乘以一个系数，但是这样输出的feature map就是多个通道的整合信息了，能够使网络提取的特征更加丰富。
1*1卷积核的作用
最新发布
weixin_43596323的博客
04-11 389
融合特征：1*1卷积核可以用于特征融合，通过对不同通道的特征图进行逐通道的线性组合，得到新的特征图。这有助于提取更丰富的特征表示，并增强模型对不同尺度和语义的感知能力。降维：通过使用1*1卷积核，可以将输入特征图的通道数进行降维。增加非线性：1*1卷积核可以引入非线性变换，通过对输入特征图进行逐通道的线性组合和非线性激活函数的作用，从而增加模型的表达能力。增加网络深度：通过在网络中插入1*1卷积层，可以增加网络的深度，从而提高模型的表达能力和学习能力。1*1卷积核是卷积神经网络中的一种特殊类型的卷积核。
深度学习基础学习-1x1卷积核的作用（CNN中）
热门推荐
小夭的博客
11-09 2万+
1x1卷积核作用
卷积神经网络中的1x1卷积核的作用
AnneQiQi的博客
01-15 1926
前言 在介绍卷积神经网络中的1x1卷积之前，首先回顾卷积网络的基本概念[1]。 1. 卷积核（convolutional kernel）：可以看作对某个局部的加权求和；它是对应局部感知，它的原理是在观察某个物体时我们既不能观察每个像素也不能一次观察整体，而是先从局部开始认识，这就对应了卷积。卷积核的大小一般有1x1,3x3和5x5的尺寸（一般是奇数x奇数）。 卷积核的个数就对应输出的通道数（...
1×1卷积核的作用
Vodka_Lou的博客
03-11 2316
问题：   平时论文里经常会看到在网络里面加入1×1的卷积核，那么1×1卷积到底有什么用？其实1×1卷积与其他卷积没有什么不同，实际上就是一个简单的线性叠加。它具有和其它卷积核类似的作用，以下将详细列举。   关键词：1×1卷积 一、实现跨通道的信息交互和整合：   如何理解跨通道的信息交互和整合呢？首先还得从三维卷积的计算开始。   如图所示，蓝色部分是一个7×7×n（维数）的Feature map，黄色块为3×3×3的卷积核，将卷积核对应到蓝色特征中可以得到一个红色阴影区域，举个具体的例子：
1_生成对应特征图_图像卷积_用numpy完成图像卷积运算_自定义卷积核_
10-03
在深度学习模型中，卷积神经网络（Convolutional Neural Networks, CNN）的核心就是卷积层，其中自定义卷积核的使用允许我们针对特定任务定制特征检测器。本篇文章将深入探讨如何使用Python中的numpy库来实现图像...
CNN0926_一维卷积_matlab1D-CNN
09-11
卷积层通过滑动一个称为滤波器（或卷积核）的权重向量来提取输入数据的特征。滤波器在数据上进行逐元素乘法并求和，生成一个新的特征映射。通过调整滤波器的权重，1D CNN可以学习到数据的关键模式和特征。 接下来，...
juanji.rar_opencv卷积_卷积核
09-14
在这个“juanji.rar_opencv卷积_卷积核”压缩包中，我们主要关注如何使用OpenCV实现自定义模板卷积。 卷积是一种数学运算，用于提取图像特征、平滑噪声或进行滤波操作。在图像处理中，卷积通常通过移动一个称为卷积...
1X1卷积核到底有什么作用
wonengguwozai的博客
06-10 1万+
1*1的卷积核在NIN、Googlenet中被广泛使用，但其到底有什么作用也是一直困扰的问题，这里总结和归纳下在网上查到的自认为很合理的一些答案，包括1）跨通道的特征整合2）特征通道的升维和降维  3）减少卷积核参数（简化模型） 部分转载自caffe.cn 作用：1. 实现跨通道的交互和信息整合2. 进行卷积核通道数的降维和升维3.对于单通道feature map 用单核卷积即为乘以一个参数，...
深度学习 1x1卷积核的作用
qq_27278957的博客
09-09 1万+
一、简述 Inception v1（又名GooLeNet）、VGG等神经网络结构中加入了 1x1卷积核操作，为什么要进行1x1卷积核呢？使用 1x1卷积核其实也可以看成是一种全连接。 接下来介绍一下使用 1x1卷积核 有哪些作用。 二、1x1卷积核的作用 1、降维/升维 1x1卷积核可以通过控制卷积核数量实现降维或升维。 卷积层流程图 从卷积层流程图中可以清楚的看到 卷积后的特征图通道数与卷积核的个数是相同的。所以，如果想要升维或降维，只需要通过修改卷积核的个数即可。 举例：如果input的通道个数是3，
1*1的卷积核的作用
Chaolei3的博客
02-25 3105
参考：https://zhuanlan.zhihu.com/p/22038289?refer=intelligentunit https://iamaaditya.github.io/2016/03/one-by-one-convolution/ http://blog.csdn.net/yiliang_/article/details/60468655 http://blog.csdn.n...
CNN中1×1的卷积核的作用
郭云飞的专栏
10-31 7853
1×1卷积核最早引起人们的重视是在NIN《Min Lin, Qiang Chen, and Shuicheng Yan. Network in network. CoRR, abs/1312.4400, 2013》结构中，后来在GoogLeNet的Inception结构中用于降维。 1×1卷积核用于升维、降维 如果卷积的输入、输出都仅有一个平面，那么1×1卷积核并没有啥意义。它完全不考虑像
1*1卷积核的作用（bottleneck的作用）
aift的专栏
06-05 1万+
上来先说1∗11*11∗1卷积核的作用： 特征降维，节省计算量 增加模型非线性表达能力 举例：因为bottleneck（1∗11*11∗1卷积核）是在2014年的GoogLeNet中首先应用的，所以我们就拿GoogLeNet来举例。 在GoogLeNet（2014）之前，网络的设计思路是一直在stack（堆叠）层数，当时的假设是网络越deeper，网络的performance越好。到了2014...
对于1*1的卷积核作用的理解
zhuhongde的博客
05-04 1619
参考文献 1.【深度学习】11的卷积核到底有什么作用 2.卷积神经网络中用11 卷积有什么作用或者好处呢？ 3.卷积神经网络中的filter是怎么工作的 作用： 实现跨通道的交互和信息整合 进行卷积核通道数的降维和升维 对于单通道feature map 用单核卷积即为乘以一个参数，而一般情况都是多核卷积多通道，实现多个feature map的线性组合 可以实现与全连接层等价的效果。如在faste...
40*40*512经过1*1*3的卷积核
06-08
经过1*1*3的卷积核操作后，输出的特征图大小仍为40x40x512，不会减小分辨率。但是，通道数可能会发生变化，具体取决于卷积核的数量。这是因为，1*1的卷积核只能在通道维度上进行滤波操作，而不会改变特征图的高度和...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Xu_Wave

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值