1*1卷积的作用

最新推荐文章于 2024-05-03 19:18:31 发布
最新推荐文章于 2024-05-03 19:18:31 发布
阅读量368 收藏
点赞数
分类专栏： 面试题汇总 文章标签： cnn 深度学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_41066529/article/details/122038280
版权

1、升维或者降维：一幅1000*1000且depth为100的图像在20个filter上做1*1卷积，结果大小为1000*1000*20。不改变特征图的大小，只改变维度。

2、加入非线性：一般卷积层之后都会经过激活层，1*1的卷积在前一层的学习表示上添加了非线性激活（ non-linear activation ），提升网络的表达能力；

3、跨通道信息交互（channel 的变换）

如：使用1*1卷积核，实现降维和升维的操作其实就是channel间信息的线性组合变化

Erlei_n
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
奇数卷积核VS偶数卷积核
01-06
在跑一份代码时，效果一直提升不上去，偶然将3 * 3的卷积核换成了4 * 4的卷积核，效果奇佳，于是搜索了一下卷积核的大小对网络性能的影响，总结如下： 1.大卷积核和小卷积核 显然，大卷积核的感受野更大，自然提取特征的性能更好，一个5 * 5的卷积核可以由两个3 * 3的卷积核替换，但是带来的代价是：大卷积核的计算速度更慢，参数量更多。因此，通常使用小卷积核，小卷积核所需要的参数量更少，且产生了更多的特征 2.奇数卷积核和偶数卷积核 “Convolution with even-sized kernels and symmetric padding” 这篇论文，解释了偶数卷积核对网络的影
1*1的卷积核 降维和升维的妙用
热门推荐
kris_paul的博客
07-15 1万+
使用三个不同大小的卷积核主要是为了减少参数的数量。 目录使用三个不同大小的卷积核主要是为了减少参数的数量。1.首先是卷积核的数量问题2.其次是参数数量的计算：3. 增加跨通道信息的交互和增加非线性 1.首先是卷积核的数量问题 2.其次是参数数量的计算： 3.增加跨通道信息的交互和增加非线性 1.首先是卷积核的数量问题 因为一张图片可能有很多特征，所以可能需要学习多个卷积核用来提取图像特征。 图中不同颜色代表不同的特征，需要学习对应数量的卷积核进行特征提取。 对于灰度图像，图像为2D 例如一个图像大小是5×
深度学习中，卷积运算为何能对图像矩阵进行升维降维？
厚积薄发的博客
08-15 774
最近有小伙伴表示不理解1*1卷积为何能对输入矩阵进行升维降维，所以我这里专门来讲一下。当然不止1*1卷积，其实所有不同kernel_size的卷积都能实现降维和升维。现在很多深度学习的第三方库，比如Pytorch、tensorflow帮我们完成了很多基础运算，但作为AI研究者，还是应该知道卷积具体在做什么。在这里，我默认读者知道数学上的卷积运算和互相关运算(cross-correlation)，深度学习中，每一个卷积核实际上进行的是数学上的互相关运算。
1*1卷积经典回答
识物专栏
08-13 1万+
1*1的卷积看似没有变换维度，其实是有的，因为我们操作的对象是feature map。对于一张feature map，你可以看作一张图。一张彩色的图像一般有3个颜色通道（RGB），而对一张feature map可能有N个通道，他是由上一次的N的filter生成的。在卷积时，若我们假定该卷积层有M个filter，则在卷积时，每个filter会对每一个通道都去卷积一遍，然后最后通过求和把每个通道的卷积结果通过线性组合（求和等），得到最终的卷积。也就是说对于一张宽度W,高度H,通道数N的feature map (
1×1卷积
sungod2的博客
04-16 642
1×1卷积 1、增加非线性 ​ 1×1卷积核的卷积过程相当于全连接层的计算过程，并且还加入了非线性激活函数，从而可以增加网络的非线性，使得网络可以表达更加复杂的特征。 2、特征降维 ​ 通过控制卷积核的数量达到通道数大小的放缩。特征降维带来的好是可以减少参数和计算量。 ​ 不引入1×1卷积的卷积操作： ​ 引入1×1卷积的操作： ​ 加入1×1卷积的Inception module： ...
1×1的卷积的作用
ZhikangFu的专栏
09-30 1万+
1×1的卷积大概有两个方面的作用吧： 1. 实现跨通道的交互和信息整合 2. 进行卷积核通道数的降维和升维   下面详细解释一下： 1. 这一点孙琳钧童鞋讲的很清楚。1×1的卷积层（可能）引起人们的重视是在NIN的结构中，论文中林敏师兄的想法是利用MLP代替传统的线性卷积核，从而提高网络的表达能力。文中同时利用了跨通道pooling的角度解释，认为文中提出的MLP其实等价于在传统卷积核后
1*1 卷积有什么作用或者好处
hellocsz的博客
07-02 2997
作者：东东链接：https://www.zhihu.com/question/56024942/answer/154291405来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。1*1卷积过滤器 和正常的过滤器一样，唯一不同的是它的大小是1*1，没有考虑在前一层局部信息之间的关系。最早出现在 Network In Network的论文中 ，使用1*1卷积是想加深加宽网络...
卷积神经网络中1*1卷积相关的网络结构
YOULANSHENGMENG的博客
10-25 653
1，瓶颈结构 1）什么是瓶颈结构 瓶颈结构就是两头宽，中间窄的网络结构，先降维然后升为维；瓶颈结构不仅增加了网络的深度同时还有效的减少了网络的参数； 比较经典的应用：ResNet 左边的计算如下： w*h*256*3*3*256 =589824*w*h 右边的计算如下： w*h*256*1*1*64 + w*h*64*3*3*64 +w*h*64*1*1*256 = 69632*w*h 结果相差大概8.5倍。 在移动端部署，模型的大小很受限，这个技术可以不损害模型的精度降...
【pytorch】1x1卷积
这个人很蓝
11-03 9176
对image进行1x1卷积，输入为(batch,C,H,W)(batch, C, H, W)(batch,C,H,W)，如下例子，输入为(4,3,225,225)(4, 3, 225, 225)(4,3,225,225)的图片，输出为(4,256,225,225)(4, 256, 225, 225)(4,256,225,225)的特征图 import torch import torch.nn as nn batch = 4 C = 3 H = W = 225 x = torch.rand((batch
1×1 卷积（Network in Network）的三个作用（详解！）
qq_45234219的博客
03-08 940
介绍1×1卷积核作用 一.升维/降维（改变特征图通道数）                                      &nb.
9 卷积网络1
08-03
在第六章介绍的深度前馈络中，权重矩阵中的每一个元素只会使用一次，不会在不同的输位置上共享参数。在卷积操作中，卷积核的每一个元素都作用在输入的每一位置上。这个设计
利用FFT实现快速卷积实验
06-12
1、通过这一实验，加深理解FFT在实现数字滤波（或快速卷积）中的重要作用，更好的利用FFT进行数字信号处理。 2、进一步掌握循环卷积和线性卷积两者之间的关系。 二、实验原理 MATLAB中计算序列的离散傅里叶变换和逆...
笔记：动手学深度学习pytorch（卷积神经网络基础；leNet；卷积神经网络进阶）
01-06
形状为1×11 \times 11×1的卷积核，我们通常称这样的卷积运算为1×11 \times 11×1卷积，称包含这种卷积核的卷积层为1×11 \times 11×1卷积层。 1×11 \times 11×1卷积核可在不改变高宽的情况下，调整通道数。1...
基于深度可分离卷积神经网络对七种表情进行识别（完整代码）.zip
01-19
SeparableConv为深度可分离卷积层，其后2个参数分别代表：卷积核个数、卷积核大小，步长均为 1。 MaxPooing为最大池化层，其后2个参数分别代表：滤波器大小、步长。 ReLU为线性整流函数，作为卷积后的激活函数，相比...
深度学习简介
奇点Peter
05-03 40
传统机器学习算术依赖人工设计特征，并进行特征提取，而深度学习方法不需要人工，而是依赖算法自动提取特征。深度学习模仿人类大脑的运行方式，从经验中学习获取知识。这也是深度学习被看做黑盒子，课解释性差的原因。深度学习是机器学习的一个子集，也就是说深度学习是实现机器学习的一种方法。机器学习是实现人工智能的一种途径。
基于深度学习检测恶意流量识别框架（80+特征/99%识别率）
渗透测试
04-29 561
基于深度学习检测恶意流量识别框架（80+特征/99%识别率）
【深度学习】序列模型
最新发布
Summerison的博客
05-03 379
深度学习的序列模型学习笔记。
【深度学习】第一门课 神经网络和深度学习 Week 3 浅层神经网络
Summerison的博客
05-03 417
学习深度学习第三周的笔记。
1*1的卷积核的作用？
06-05
1x1的卷积核可以用于改变或者调整特征图的通道数，而不改变特征图的大小。它可以用于降维或升维，也可以用于将不同通道之间的特征进行融合。在深度学习中，1x1的卷积核经常被用于卷积神经网络中的特征提取和分类任务...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值