1x1卷积核的理解

最新推荐文章于 2024-05-07 12:34:55 发布
最新推荐文章于 2024-05-07 12:34:55 发布
阅读量754 收藏 4
点赞数 1
分类专栏： 神经网络 机器视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_34886403/article/details/82627453
版权

1x1卷积核的作用主要有两点：
1、实现跨通道的信息融合
2、实现通道数的升维与降维
3、增加网络的非线性

实现跨通道信息的融合：加入当前层的特征矩阵为224x224x100，而下一层想要得到224x224x50，这时就可以通过1x1的卷积核进行跨通道信息融合，当然这时也可以通过3x3或5x5的卷积核构建出符合下一层224x224x50的特征矩阵，但是使用1x1卷积核，起到了减少参数的目的。

实现通道数的升维与降维:如上面举的例子，本来的通道数为100,而下一层的通道数为50，这时就起到了降维的作用。同理假如下一层的通道数为200，这时就是升维。

增加网络的非线性：假如网络本来的通道数为100，而下一层的通道数也是100，这时加入1x1的卷积核并非没有作用，通过1x1卷积核可以增强网络的非线性能力，也可以简单的理解为网络变深了

Star_ACE
关注
专栏目录
【深度学习】CNN 中 1x1 卷积核的作用
frank 的专栏
10-19 1万+
最近研究 GoogLeNet 和 VGG 神经网络结构的时候，都看见了它们在某些层有采取 1x1 作为卷积核，起初的时候，对这个做法很是迷惑，这是因为之前接触过的教材的例子中最小的卷积核是 3x3 ，那么，1x1 的卷积核有什么意义呢？ 最初应用 1x1 卷积核的神经网络是 Network In Network，然后 GoogLeNet 和 VGG 也不约而同的更正了。 他们在论文中解释，大概有下...
一文读懂卷积神经网络中的1x1卷积核
阿木寺的博客
07-18 3万+
前言 在介绍卷积神经网络中的1x1卷积之前，首先回顾卷积网络的基本概念[1]。 卷积核（convolutional kernel）：可以看作对某个局部的加权求和；它是对应局部感知，它的原理是在观察某个物体时我们既不能观察每个像素也不能一次观察整体，而是先从局部开始认识，这就对应了卷积。卷积核的大小一般有1x1,3x3和5x5的尺寸（一般是奇数x奇数）。卷积核的个数就对应输出的通道数（chan...
CNN中，1X1卷积核到底有什么作用呢？
weixin_30247159的博客
09-10 233
CNN中，1X1卷积核到底有什么作用呢？ https://www.jianshu.com/p/ba51f8c6e348 Question: 从NIN 到Googlenet mrsa net 都是用了这个，为什么呢？ 发现很多网络使用了1X1卷积核，这能起到什么作用呢？另外我一直觉得，1X1卷积核就是对输入的一个比例缩放，因为1X1卷积核只有一个参数，这个核在输入上滑...
caffe中的卷积的计算细节和1x1卷积作用
Focusing on your own Mind :) －> 站在巨人的肩膀上
11-30 7347
在卷积神经网络中，卷积算是一个必不可少的操作， 下图是一个简单的各层的关系。 可以看出一个很好的扩展的关系，下面是整个卷积的大概的过程 图中上半部分是传统的卷积的操作，下图是一个矩阵的相乘的操作。 下图是在一个卷积层中将卷积操作展开的具体操作过程，他里面按照卷积核的大小取数据然后展开，在同一张图里的不同卷积核选取的逐行摆放，不同N的话，就在同一行后面继续拼接，不同个可以是多
CNN1x1卷积核的作用
qiling0102的博客
05-19 2171
1x1卷积核的作用之前只是知道1x1的卷积核用在Inception模块中具有降维的作用，并没有认真的思考它是怎么样实现降维的，以及它还有哪些作用。于是查阅了一些资料，并记录了它的一些作用，如下：一、灵活的控制特征图的深度1x1的卷积核由于大小只有1x1，所以并不需要考虑像素跟周边像素的关系，它主要用于调节通道数，对不同的通道上的像素点进行线性组合，然后进行非线性化操作，可以完成升维和降维的功能，如...
深度学习---1x1卷积核
女王の专属领地
06-21 2132
目录：part I ：来源part II ：应用part III ：作用（降维、升维、跨通道交互、增加非线性）part IV ：从fully-connected layers的角度理解一、来源：[1312.4400] Network In Network （如果1×1卷积核接在普通的卷积层后面，配合激活函数，即可实现network in network的结构）二、应用：GoogleNet中的Inc...
深度学习基础学习-1x1卷积核的作用（CNN中）
小夭的博客
11-09 2万+
1x1卷积核作用
深度学习CV方向学习笔记4 —— 1×1卷积核的作用
qq_33909645的博客
10-13 1807
个人学习神经网络相关知识的学习记录，本帖记录的是关于1×1卷积核的知识。 学习资料来源于各博主的帖子、知乎、b站等，在个人理解的基础上加以总结，可能存在理解有误之处，欢迎指正！
cnn卷积核channel，数量，1*1卷积核降维原理
m0_55392122的博客
05-08 3010
卷积核channel和数量的区别cnn卷积channel1.filter的channel=输入图像的channel 2.filter的个数=输出图像的channel1×1\times1×1卷积降维tensorflow cnn卷积 众所周知，cnn最重要的就是卷积层和池化层，对于卷积层中，通过使用卷积核与原图像进行卷积操作，降低数据量方便计算。卷积操作为： 通过上述操作可以使大家清晰的看到卷积操作，但是卷积核的处理非常重要，那么卷积核的channel以及个数有什么区别呢？以下是我通过借阅别的大佬的博客做出如
1*1卷积核用法与权值共享
xlhao的博客
12-10 2604
# **权值共享方法** 在同一特征图和不同通道特征图都使用共享权值，这样的卷积参数是最少的，例如上一层为30*30*40，当使用3*3*120的卷积核进行卷积时，卷积参数为：3*3*120个.(卷积跟mlp有区别也有联系一个神经元是平面排列，一个是线性排列) 第二种只在同一特征图上使用共享权值，根据上面的例子，则卷积参数为：3*3*40*120.   权值共享 CNN中权值共...
1X1卷积
weixin_53297048的博客
06-30 1310
在学习1x1卷积之前，我们先对多通道卷积进行简单的回顾，这样更方便对1x1卷积的理解多通道卷积是将各通道的卷积后对应位置累加求和，简单的说就是。
详细学习1*1卷积核
庆志的小徒弟
10-08 2万+
1*1卷积是大小为1*1的滤波器做卷积操作，不同于2*2、3*3等filter，没有考虑在前一特征层局部信息之间的关系。我们从1*1卷积的两个主要使用来理解其原理和作用。 卷积核：可以看作对某个局部的加权求和，它是对应局部感知，它的原理是在观察某个物体时我们既不能观察每个像素也不能一次观察整体，而是先从局部开始认识，这就对应了卷积。卷积核的大小一般有1x1,3x3和5x5的尺寸。卷积核的个数就...
1*1卷积原理及作用
最新发布
shixiaoheya的博客
05-07 497
输入：3*3*1。前面2个3代表图片的高(h)和宽(w)，h*w可以理解为图片的分辨率。1代表通道数(channel)。每个格子上的数字可以理解为像素值。卷积核：大小为1*1（卷积核也就是kernnel，卷积核是一个二维的概念），卷积核上的数字可以理解为权重（weight）输出：3*3*1。输入图片每个格子上像素与卷积核权重的乘积。
详解 1x1 卷积核
绿色羽毛
11-17 2341
表面看来，1x1 卷积核似乎并不是真正的滤波器，它只是将图像的每个点都乘以 1 个权重，再加上 1个偏置；因此，通过 N个 1x1 卷积核，只需少量参数，就能将 M张图像变为 N张图像； 应用场景 如需将图像分为 N类，可在最后用 1x1 卷积层 将 M张图像转换为 N张图像，在通过全局池化变为 N个数字，送入 Softmax计算输出； 可用 1x1 卷积层作为 瓶颈层。假设输入通道是 256个，要求经过 3x3卷积，最后输出通道也是 256个，那么有 2种实现方式： 直接送入3x3 卷积层，
1*1卷积核
timetime88的博客
09-17 342
11卷积核 一、1x1卷积的作用？ 1改变数据维度（存储方式） 因为11卷积不改变图形的大小，当对同一个特征图用数值不同的11的卷积核时，会得到到不同的输出，当同时使用多个卷积核时就可以改变模型的维度，比如，一张500 * 500且厚度100 的图片在20个卷积核上做11的卷积，那么结果的大小为50050020。 2.增加模型的深度减少参数量 3增加非线性 通常情况下，在构建网络模型时会使用激活函数，当使用1*1的卷积核来加深了网络模型，使用的激活函数的次数就会变多，激活函数大多是非线性的（有利于分离
1*1卷积核的作用
热门推荐
菜鸟起飞
08-13 5万+
作用： 跨通道的特征整合 特征通道的升维和降维 减少卷积核参数（简化模型） 1 跨通道的特征整合 如果当前层和下一层都只有一个通道那么1×1卷积核确实没什么作用，但是如果它们分别为m层和n层的话，1×1卷积核可以起到一个跨通道聚合的作用，所以进一步可以起到降维（或者升维）的作用，起到减少参数的目的。 这里通过一个例子来直观地介绍1x1卷积。输入6x6x1的矩阵，这里的1x1卷积形式为1x1x1，即为元素2，输出也是6x6x1的矩阵。但输出矩阵中的每个元素值是输入矩阵中每个元素值x2的结果。 ..
如何理解卷积神经网络中的1*1卷积
It’s All Uphill From Here
03-13 1424
我们都知道，卷积核的作用在于特征的抽取，越是大的卷积核尺寸就意味着更大的感受野，当然随之而来的是更多的参数。早在1998年，LeCun大神发布的LetNet-5模型中就会出，图像空域内具有局部相关性，卷积的过程是对局部相关性的一种抽取。 但是在学习卷积神经网络的过程中，我们常常会看到一股清流般的存在—1*1的卷积！ 比如在残差网络的直连里： 残差网络的Bootleneck残差模块里： 在...
梳理CNN卷积方式：常规卷积与1x1卷积详解
1x1卷积，又称内积卷积或瓶颈层（Bottleneck Layer），其卷积核大小仅为1x1。这一特性使得它具有以下特点： 1. 保持输入特征图的尺寸不变，仅改变通道数，适用于维度升维（增加通道数）或降维（减少通道数）的操作。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值