笔记 - 卷积网络：1×1卷积核

最新推荐文章于 2024-05-07 12:34:55 发布
最新推荐文章于 2024-05-07 12:34:55 发布
阅读量345 收藏
点赞数
分类专栏： AI 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/chen_holy/article/details/91794856
版权
  • 首先是卷积核的作用
1.比全连接参数少很多的特征提取器
2.数据通道增加或减少
  • 1x1卷积核与其他大小卷积核的不同
用最少的参数实现数据通道地增加或减少

减少数据通道的作用：减少接下来的计算量，减少参数

other观点

  • 增加非线性
  • 相当于一个全连接网络

我觉得不太像
用1×1卷积核做全连接，只是1×1卷积核作用的一个特例

资料

深度学习——1×1卷积核理解
全 中文字幕 - 深度学习_吴恩达_DeepLearning.ai

chen_holy
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
每天五分钟计算机视觉：使用1*1卷积层来改变输入层的通道数量
huanfeng_AI的博客
12-10 1036
在卷积神经网络中有很多重要的卷积核，比如1*1的卷积核，3*3的卷积核，本文将讲解1*1的卷积核的使用，它在卷积神经网络中具有重要的地位。由于1*1的卷积核使用了最小的窗口，那么1*1的卷积核就失去了卷积层可以识别高和宽维度上相邻元素构成的模式的功能。所以1*1的卷积核的主要计算发生在通道维上。
ElitesAI·动手学深度学习PyTorch版学习笔记-卷积神经网络基础；leNet；卷积神经网络进阶
01-20
1 卷积神经网络基础 1.1 二维卷积 本小节介绍了二维卷积，主要用于图像数据（刚好是二维的数据）处理。 二维卷积通过输入二维数据和二维核数据的运算（卷积），得到一个小于输入数据的二维输出数据，但是该输出数据...
1×1卷积核的简单讲解
TBTB的博客
06-12 7409
1×1卷积核主要功能是改变通道数目，致使减少计算量。在使用1×1卷积核的过程中，不改变原始图片的宽度和高度，它只是改变了通道数。它同时对原始图片的所有信道进行卷积，融合成一个值，如下图所示： 上图是一个图片的三个通道，通过 1×1卷积核，形成了与原始图片相同高与宽图片，只是通道变为了 1 的 features map，1×1卷积之后的值，如下所示： 以下图为例，我们可以考到，计算量明显减少。 ...
1*1卷积原理及作用
最新发布
shixiaoheya的博客
05-07 427
输入：3*3*1。前面2个3代表图片的高(h)和宽(w)，h*w可以理解为图片的分辨率。1代表通道数(channel)。每个格子上的数字可以理解为像素值。卷积核：大小为1*1（卷积核也就是kernnel，卷积核是一个二维的概念），卷积核上的数字可以理解为权重（weight）输出：3*3*1。输入图片每个格子上像素与卷积核权重的乘积。
PyTorch 入门与实践（六）卷积神经网络进阶（GoogLeNet、ResNet）
过招
08-01 1126
来自 B 站刘二大人的《PyTorch深度学习实践》P11 的学习笔记 GoogLeNet 1×1 卷积 上一篇我们知道，卷积的个数取决于输入图像的通道数。 1×1 卷积能起到特征融合、改变通道数和减少计算量的效果，被称为神经网络中的神经网络 例如，我们先通过 1×1 卷积减少了通道的数量，让大的卷积核计算更少的通道数，能大大减少计算量： Inception Module Inception（盗梦空间） Module 的目的在于给神经网络提供多个卷积层的配置，在将来通过训练选择最优线路，和.
1x1卷积和池化操作
qq_40630902的博客
08-07 1946
1x1卷积和池化操作 1. 本质 1x1卷积和池化操作的本质是压缩feature mapping（输入层） 1x1卷积通过改变feature mapping（输入层）的通道数量，具体操作是减少通道数量实现压缩 池化操作通过改变feature mapping（输入层）的尺寸（宽和高） 2. 1x1卷积操作 假设这是一个28×28×192的输入层，如果通道数量很大，该如何把它压缩为28×28×32维度的层呢？你可以用32个大小为1×1的过滤器，严格来讲每个过滤器大小都是1×1×192维，因为过滤器中通道数量
深度学习基础学习-1x1卷积核的作用（CNN中）
小夭的博客
11-09 2万+
1x1卷积核作用
1*1卷积核的作用
热门推荐
菜鸟起飞
08-13 5万+
作用： 跨通道的特征整合 特征通道的升维和降维 减少卷积核参数（简化模型） 1 跨通道的特征整合 如果当前层和下一层都只有一个通道那么1×1卷积核确实没什么作用，但是如果它们分别为m层和n层的话，1×1卷积核可以起到一个跨通道聚合的作用，所以进一步可以起到降维（或者升维）的作用，起到减少参数的目的。 这里通过一个例子来直观地介绍1x1卷积。输入6x6x1的矩阵，这里的1x1卷积形式为1x1x1，即为元素2，输出也是6x6x1的矩阵。但输出矩阵中的每个元素值是输入矩阵中每个元素值x2的结果。 ..
CS231n课程笔记翻译：卷积神经网络笔记1
08-03
10. **拓展资源**：除了课程笔记，还有许多其他资源，如论文、开源代码和教程，可以帮助深入理解和应用卷积神经网络。 通过上述结构和设计，卷积神经网络在图像识别、物体检测、图像分割等任务中表现出色，成为现代...
深度学习卷积神经网络笔记
08-30
深度学习卷积神经网络笔记 深度学习卷积神经网络是神经网络的一大应用，矩阵运算神经网络的传播都是形如 Y=WX+b 的矩阵运算。为了给矩阵运算加入非线性，需要在隐藏层中加入激活层；输出层结果需要经过 Softmax 层...
AI学习笔记——卷积神经网络（CNN）
01-27
卷积神经网络（CNN）是人工智能领域中一种重要的深度学习模型，特别适用于图像识别和处理任务。相较于传统的全连接神经网络，CNN具有更好地捕获图像特征的能力，这得益于其独特的结构设计。 首先，卷积...
1x1卷积核作用
yueguang8的博客
02-21 675
1x1卷积核可以控制channel的升降，减少参数计算量以及增加网络的非线性表达能力
卷积核的尺寸、通道数、个数还有1*1卷积的理解
zh_ch_yu的博客
03-10 1万+
#卷积核的尺寸，通道数还有1*1卷积的理解 卷积核：就是对某个局部的加权求和，是对局部的感知。 一开始学习的时候，最卷积核的尺寸，通道数，卷积核的个数的概念十分混淆。 后来逐渐理解，在深度学习中，卷积核的个数，就是就是经过该卷积核之后的输出的通道数。 对于输入的每个通道，输出的每个通道上的卷积核是不一样的。 比如： 输入是2828192，然后经过尺寸为33，通道数为128的卷积核，那么卷积核的参数...
深度学习笔记（六）：1x1卷积核的作用归纳和实例分析
呆呆象呆呆的博客
07-16 7567
文章目录一、1x1卷积核介绍二、举例说明实际作用例子1：线性变换例子2：降低通道数（归纳整理进行一次输入通道间的非线性映射）三、1x1卷积核作用降低/提升通道数增加非线性跨通道信息交互（channal 的变换）四、1x1卷积应用InceptionResNet参考文献待看文献 一、1x1卷积核介绍 1x1卷积核，又称为网中网（Network in Network）。 其实1x1卷积，可以看成一种全连接（full connection）。 二、举例说明实际作用 例子1：线性变换 这里通过一个例子来直观地介绍1x
卷积神经网络中用1*1 卷积有什么作用或者好处呢？
Angelina_Jolie的博客
12-04 1320
使用1*1卷积核，实现降维和升维的操作其实就是channel间信息的线性组合变化，3*3，64channels的卷积核后面添加一个1*1，28channels的卷积核，就变成了3*3，28channels的卷积核，原来的64个channels就可以理解为跨通道线性组合变成了28channels，这就是通道间的信息交互。右侧操作数：w*h*256*1*1*64 + w*h*64*3*3*64 +w*h*64*1*1*256 = 69632*w*h,，左侧参数大概是右侧的8.5倍。（实现降维，减少参数）
深度学习CV方向学习笔记4 —— 1×1卷积核的作用
qq_33909645的博客
10-13 1594
个人学习神经网络相关知识的学习记录，本帖记录的是关于1×1卷积核的知识。 学习资料来源于各博主的帖子、知乎、b站等，在个人理解的基础上加以总结，可能存在理解有误之处，欢迎指正！
1x1卷积核的作用
MT2048的博客
12-10 1万+
Why？ 1x1 卷积 1. 前言 往往很多人喜欢把事情搞得复杂，显得高大上，却并不实用，殊不知有时候简单的想法才是最美的。就好像是一堆巧妙的数学公式推导，常常有某一个极简的数学公式在作支撑，奇技淫巧无处不在。此外，研究算法的乐趣之一就是存在这些神奇的地方。如果是自己发现会很有成就感，如果在别人的思想中发现也会产生共鸣。 今天要记录 CNN 中的 1x1 卷积的神奇之处，或者说有什么用？当然我承...
在卷积神经网络中1x1卷积核有什么作用
进阶的小宋
08-07 698
2.feature map通道数上的降维。举个例子：假设输入的特征维度为100x100x128，卷积核大小为5x5（stride=1，padding=2），通道数为256，则经过卷积后输出的特征维度为100x100x256，卷积参数量为128x5x5x256=819200。1x1卷积核只有一个参数，当它作用在多通道的feature map上时，相当于不同通道上的一个线性组合，实际上就是加起来再乘以一个系数，但是这样输出的feature map就是多个通道的整合信息了，能够使网络提取的特征更加丰富。
1x1卷积(Conv 1*1)的作用
程序员，他们想的是什么?他们想的永远都是技术，他们崇尚的也永远都是技术。
11-07 2385
Conv 1×1 所实现的通道数增加/减少，本质上其实是通道之间信息的线性组合，这些组合能够使得网络提取更加丰富的高级特征，如上一部分中 28×28×192 的输入经过1×1×192×16 的卷积操作后输出为28×28×16，即该层输入中的原192 个特征经过 跨通道线性组合 变成了输出中的 16 个特征。对于多通道图像，Conv 1×1 会遍历图像的所有位置，将每个位置处所有通道的值作为其输入，与1×1 卷积核中对应通道的值进行线性运算。未使用 Conv 1×1 的情况下，输出通道数为卷积核的个数。
Tensorflow笔记：卷积神经网络详解
卷积操作通过滑动一个小的卷积核（通常为正方形）在输入图像上，对每个像素点进行局部计算，从而提取图像特征。卷积核与输入特征图对应区域的元素相乘并求和，加上偏置项后得到输出特征图的一个像素值。对于彩色图像...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值