第二问：小滤波器（卷积核）为什么有效？

最新推荐文章于 2024-05-22 02:31:34 发布
最新推荐文章于 2024-05-22 02:31:34 发布
阅读量1.7k 收藏 2
点赞数 1
分类专栏： 深度学习 机器学习1000问 文章标签： 深度学习 卷积神经网路 小卷积核的有效性
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36653505/article/details/83753324
版权

一般而言，几个小滤波器卷积层的组合比一个大滤波器卷积层更好，比如层层堆叠了3个在3×3的卷积层，中间含有非线性激活层，在这种排列下面，第一个卷积层中每个神经元对输入数据的感受野是 3×3，第二个卷积层对第一个卷积层的感受野也是3×3，这样对于输入数据的感受野就是5×5，同样，第三个卷积层对第二个卷积层的感受野是3×3，这样第三个卷积层对于原始输入数据的感受野就是7×7。

假设这里不使用3个3×3的感受野，直接单独使用一个7×7大小的卷积层，那么所有神经元的感受野也是7×7，但是这样会有一些缺点。多个卷积层首先与非线性激活层交替的结构，比单一卷积层的结构更能提取出深层的特征；其次，假设输入数据体的深度是C，输出体的深度也是C，那么单独的7×7的卷积层会有7×7×C×C=49× C 2 C^{2} C

最低0.47元/天 解锁文章
Never-Giveup
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
用卷积滤波器matlab代码-Image-Convolution:图像卷积
05-21
用卷积滤波器matlab代码...第二部分是图像过滤：演示了3×3卷积核，用于计算水平，垂直和（任何）对角线图像梯度，并使用锐化蒙版对图像进行锐化。 它还从头开始执行高斯低通滤波，包括5×5内核和1个像素的标准偏差。
基于冲击特征提取的旋转机械智能故障诊断（学习记录）
qq_45549605的博客
09-30 949
在胶囊网络的架构基础上，将原始故障振动信号作为输入，通过构造首层小波核卷积层，针对性提取冲击故障特征，提高深度学习网络特征提取的可解释性；在小波核卷积层之后扩展一层卷积层，强化首层小波核卷积层提取的特征，将特征经初级胶囊层、数字胶囊层输出分类结果，从而构造了端对端的小波卷积胶囊网络模型。为了增强网络模型对齿轮、轴承故障特征提取的可解释性，将小波与卷积网络相结合，针对性提取故障振动信号中的冲击特性。标准卷积层采用随机初始化卷积核与输入信号的高度和宽度进行卷积，其表达式为。2.1Laplace小波卷积层。
【CV】请问卷积核（滤波器）3*3、5*5、7*7、11*11 都是具体什么数？
学无止境、积少成多、厚积薄发
07-27 784
答卷积神经网络中，第一次给卷积核的值就是随机的，前向传播过程中，神经网络会得出loss，一般第一次随机给的数得到的loss都比较高，然后神经网络根据误差反算更新卷积核的数，然后再次前向。问请问卷积核（滤波器）3。11都是具体什么数？......
深度卷积神经网络中卷积核设置对输出尺寸的影响
最新发布
weixin_42605076的博客
05-22 434
常见的填充方式有"valid"（不填充）和"same"（填充），"same"填充会在输入图像边缘填充足够的零值使得输出尺寸与输入尺寸相同。较大的卷积核通常会导致输出尺寸减小，因为每次卷积的时候，卷积核无法覆盖图像边缘的区域，导致边缘信息丢失。较大的步幅会导致输出尺寸减小，因为每次移动的距离增加，导致输出图像尺寸减小。输出尺寸=输入尺寸−卷积核尺寸+2×填充步幅+1输出尺寸=步幅输入尺寸−卷积核尺寸+2×填充​+1。：输入图像的尺寸也会影响输出尺寸，因为卷积操作是在输入图像上进行的。
小波卷积网络Multi-level Wavelet-CNN for Image Restoration论文阅读笔记
import_torch_as_tf
09-30 7355
论文链接：Multi-level Wavelet-CNN for Image Restoration | IEEE Conference Publication | IEEE Xplorex​​​​​​​x 论文来源：CVPRW2018 项目地址：GitHub - lpj0/MWCNN: Multi-level Wavelet-CNN for Image Restoration（matlab）GitHub - lpj-github-io/MWCNNv2: Multi-level Wavelet Conv
卷积神经网络（CNN）的细节问题（滤波器的大小选择）
热门推荐
03-08 3万+
1. 权值共享：减轻过拟合 & 降低计算量一个卷积层（Wx+b ⇒ ReLU ⇒ maxpooling）可以有多个不同的卷积核，而每一个卷积核都对应一个滤波后映射出的新图像，同一个新图像中的每一个像素都来自完全相同的卷积核，这就是卷积核的权值共享。那么为什么要共享卷积核的权值参数呢？ 降低模型复杂度以减轻过拟合； 降低计算量；
卷积神经网络CNN 中用1*1 卷积过滤器的作用及优势
u010899985的博客
08-09 1万+
  1*1卷积过滤器 和 正常的过滤器一样，唯一不同的是它的大小是1*1，没有考虑在前一层局部信息之间的关系。最早大神颜水成论文《Network In Network》 中使用1*1卷积 ，目的是想加深加宽网络结构 。后来谷歌GoogleNet的Inception网络（ Going Deeper with Convolutions ），微软亚洲研究院(MSRA)在 ResNet中的残差模块等中使...
GaussianFilter:高斯滤波器
05-18
高斯滤波器的原理基于高斯分布，其核函数是一个二维的高斯函数，形状是对称的，具有平滑图像的效果。它的数学表达式为： \[ G(x,y) = \frac{1}{2\pi\sigma^2} e^{-\frac{(x-\mu)^2 + (y-\mu)^2}{2\sigma^2}} \] ...
CUDA Convolution filter：任意一维复信号与任意滤波器核的卷积-matlab开发
05-30
1. 从 NVIDIA 购买或使用支持 CUDA 的产品 2. 在您的 PC 上为您的 WINDOWS 版本安装支持 CUDA 的驱动程序 3. 通过显示的链接将压缩的 MEX 和...7. 该函数接受 2 个参数：第一个是一维复数信号，第二个是滤波器内核 面向
用卷积滤波器matlab代码-SleepStageCNN:解释卷积神经网络第一层中的过滤器以进行睡眠阶段分类
05-21
卷积滤波器（也称为卷积核或特征检测器）是用来扫描输入数据（在这种情况下可能是脑电图（EEG）或肌电图（EMG）信号）并提取特征的权重矩阵。这些滤波器在输入数据上滑动，通过与数据的点积计算生成特征映射，这些...
快来看看卷积操作到底都干了什么
01-06
卷积敞开了讲就是为了提取特征，比如上第二图的卷积局部连接，不同的滤波器提取不同位置的特征，但是需要做到特征和位置无关，所以的滤波器局部连接使用一套参数如第三幅图（这样友大幅度减少了参数），下面这幅图...
使用VGG16来训练cifar数据集
yychentracy的博客
05-17 4366
VGG16的特点： VGGNet使用了更深的结构， AlexNet只有8 层网络，而VGGNet 有16 层，不在使用大的卷积核，只使用3*3卷积核和2*2的池化层 之所以使用小的滤波器，是因为层叠很多小的滤波器的感受野和一个大的滤波器的感受野是相同的，还能减少参数，同时有更深的网络结构。其实他只是不断的对网络层进行叠加，并没有太多的创新，而增加深度确实可以一定程度改善模型的效果。 代码如下...
【深度学习相关知识】
weixin_43466026的博客
07-26 1096
正则化通过为模型损失函数添加惩罚项使学出的模型参数值较小，是应对过拟合的常用手段。至于为什么添加了正则项就能降低过拟合。简单来说，添加了正则项后，损失函数计算梯度下降时就要同时满足原损失函数和正则项的权重同时等于0，压缩了解的空间，即对权重w的可能的取值做了限制。还有L1和L0范数，其中L2范数应对过拟合最好。池化pooling层输出尺寸计算公式同上。膨胀后的卷积核不膨胀的情况下D=1。因此，膨胀卷积输出尺寸计算公式为。应对过拟合的方法权重衰减。膨胀卷积是对卷积核的膨胀。卷积层输出尺寸计算公式。......
卷积核和滤波器是一样的吗？
weixin_44943389的博客
06-18 694
严格来说，卷积核通常是指一个小型的矩阵或数组，用于执行卷积运算的操作元素。而滤波器可能指的是应用于图像或信号的更广义的处理工具，可能包括除了卷积之外的其他操作，如均值、中值、高通、低通等。因此，这里的卷积核和滤波器的概念可以互换使用，表示同一概念的不同角度。因此，总的来说，卷积核和滤波器在某些情况下可以视为同义词，尤其在CNN中。在某种程度上，卷积核和滤波器可以被视为相同的概念，尤其是在卷积神经网络（CNN）的上下文中。然而，在其他上下文中，卷积核和滤波器可能有所不同的含义。
图像卷积与滤波~
whaosoft143ai的博客
06-03 593
卷积相关知识点的一些总结。线性滤波可以说是图像处理最基本的方法，它可以允许我们对图像进行处理，产生很多不同的效果。做法很简单。首先，我们有一个二维的滤波器矩阵（有个高大上的名字叫卷积核）和一个要处理的二维图像。然后，对于图像的每一个像素点，计算它的邻域像素和滤波器矩阵的对应元素的乘积，然后加起来，作为该像素位置的值。这样就完成了滤波过程。对图像和滤波矩阵进行逐个元素相乘再求和的操作就相当于将一个二维的函数移动到另一个二维函数的所有位置，这个操作就叫卷积或者协相关。whaosoft aiot http://1
卷积核(又称滤波器)
xu.hyj
07-05 1万+
0. 前言 虽然卷积核或者滤波器所指的是同一个东西，但是在传统图像处理一般叫滤波器，而在深度学习中叫卷积核。 1. 卷积(滤波) 卷积实际上是一种运算方式，可以理解为和加减乘除一样的运算方式，只不过更加复杂一点而已。一言以蔽之就是：两个矩阵对应位相乘，然后所有积求和 step1：对应位相乘 对应位相乘 求积 1*-1 -1 0*0 0 2*1 1 5*-1 -5 4*0 0 … … step2：然后所有积求和 sum=-1+0+1+5+0+…=0 我们将中间3
视觉图像处理中卷积核与滤波器的区别
jy_1005的博客
03-07 2090
卷积的目的是为了从输入中提取有用的特征。在图像处理中，有很多滤波器可以供我们选择。每一种滤波器帮助我们提取不同的特征。比如水平/垂直/对角线边缘等等。在CNN中，通过卷积提取不同的特征，滤波器的权重在训练期间自动学习。然后将所有提取到的特征“组合”以作出决定。 卷积的优势在于，权重共享和平移不变性。同时还考虑到了像素空间的关系，而这一点很有用，特别是在计算机视觉任务中，因为这些任务通常涉及识别具有空间关系的对象。（例如：狗的身体通常连接头部、四肢和尾部）。 单通道版本 单个通道的卷积 在深度学习中，卷积是元
卷积核（kernel）和过滤器（filter）的区别
xu.hyj
05-28 8552
0. 前言 关于卷积核和过滤器的定义，事实上在使用时没有多在意，毕竟能理解作者意思即可。但是这篇文章让我理解了为什么使用深度学习框架定义卷积层时，该层的输出通道=卷积核的个数？因为在我看来，如果输入通道=3(比如RGB格式图片)，卷积核个数为1，那么输出通道=3，因为卷积核对每个输入通道都进行运算。但实际上深度学习框架中定义卷积核个数，可能是指滤波器的个数。 1. 两者分别 一句话：卷积核是二维的，滤波器是三维的(高维，也可能是四维的) 卷积核就是由长和宽来指定的，是一个二维的概念。 而过滤器是是由长、宽
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值