CNN误差反传时旋转卷积核的简明分析

最新推荐文章于 2024-08-08 16:38:06 发布
最新推荐文章于 2024-08-08 16:38:06 发布
阅读量1.1w 收藏 49
点赞数 29
分类专栏： 深度学习 文章标签： cnn 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zy3381/article/details/44409535
版权

       CNN(卷积神经网络)的误差反传(error back propagation)中有一个非常关键的的步骤就是将某个卷积(Convolve)层的误差传到前一层的池化(Pool)层上，因为在CNN中是2D反传，与传统神经网络中的1D反传有点细节上的不同，下面通过一个简单的例子来详细分解一下这个反传步骤。


       假设在一个CNN网络中，P代表某个池化层，K代表卷积核，C代表卷基层，首先来看一下前向(feed forward)计算，从一个池化层经过与卷积核(Kernel)的运算得到卷积层:



       将前向计算的步骤进行分解，可以得到以下公式：

最低0.47元/天 解锁文章
zy3381
关注
专栏目录
卷积图解_什么！卷积要旋转180度？
weixin_35397235的博客
01-13 1703
来源：人工智能LeadAI微信公众号(ID：atleadai)，原文来自简书网，作者：刘开心_8a6c。一看这个标题就会想，这有什么大惊小怪的，可能好多人觉得这是个脑残话题，但我确实误解了两三年……在读《OpenCV算法精解》的时候，发现对两个矩阵做卷积运算的时候，作为卷积算子的矩阵要逆时针旋转180度，这是以前从来没注意过的步骤， 说来惭愧，平时都是直接调用API，忽略了原理，以为卷...
卷积为什么要旋转180度
weixin_34100227的博客
07-19 2984
2019独角兽企业重金招聘Python工程师标准>>> ...
为什么CNN中的卷积核要旋转180度？
J~的博客
02-02 4824
目录 1CNN介绍 2Why Reference 1CNN介绍 推荐看这位大佬的文章：卷积思想理解、Convolutional Neural Network（CNN）卷积神经网络初探 2Why CNN(卷积神经网络)的误差反传(error back propagation)中有一个非常关键的的步骤就是将某个卷积(Convolve)层的误差传到前一层的池化(Pool)层上，因为...
深度学习——卷积及卷积核
最新发布
2301_79972308的博客
08-08 2179
卷积核就是图像处理时，给定输入图像，输入图像中一个小区域中像素加权平均后成为输出图像中的每个对应像素，其中权值由一个函数定义，这个函数称为卷积核。又称滤波器。具体计算如图 ，就是一个固定大小的核，以一定的步长去对原图像位置做相乘再求和的操作在数学上的计算公式（实际上）根据公式计算实际上是计算卷积核经过中心反转后的乘积，但在实际上可以用对应位置相乘的方法去计算，称为互相关运算。卷积神经网络（CNN）作为深度学习的一个重要分支，为图像处理和计算机视觉领域提供了强大的工具。
形象理解卷积（卷积运算为何要翻转）
weixin_39123145的博客
10-08 1万+
转载自知乎用户@林麦，@中微子 https://www.zhihu.com/question/20500497 作者：林麦 链接：https://www.zhihu.com/question/20500497/answer/24525658 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 最近复习看到卷积这块儿，说说我的理解。 如果随便给你两个函数让你算卷积，...
什么！卷积要旋转180度？！
leadai的博客
10-24 3206
全文共988个字，6张图，预计阅读时间8分钟。一看这个标题就会想，这有什么大惊小怪的，可能好多人觉得这是个脑残话题，但我确实误解了两三年……今天在读《OpenCV算法精解...
卷积核翻转方法
Lucky_yw的博客
04-25 7036
卷积核翻转方法翻转卷积核有三种方法1.围绕卷积核中心旋转180度方法：把卷积核写在一张纸上，用笔尖固定住中心元素，旋转180度后就是翻转后的卷积核。2.沿着两条对角线翻转两次方法：设原始卷积核为1   2   34   5   67   8   9第一次沿着左下角到右上角翻转，也就是3,5,7不变，2和4 交换。6和8交换，1和9交换9   6   38   5   27    4   1第一次沿...
OpenCL与CNN篇四：CNN从入门到使用
ShiAokai
06-10 4196
记录我从零到实现一个具体CNN网络中最有用的知识干货。 以细节为切入点，分享我对CNN网络的简洁。 本文致力于让你一篇文章理解CNN的具体实现与训练方法。 涉及理论不一一追述背景，主要讲解其如何应用。
深度学习简明教程系列 —— 基础知识（合集）
编程之路
08-25 7484
参考：https://www.zhihu.com/question/53405779 https://zhuanlan.zhihu.com/p/61880018 第一章 模型评估 1.1 基础概念 假设有m个样本，其中有a个样本分类错误，则有：
"使用容积胸部CT扫描识别COVID-19的3D-CNN分类方法
医学信息学解锁26（2021）100709使用容积胸部CT扫描识别COVID-19逐步调整大小的3D-CNN，包括分割，增强，阶级再平衡马里兰州Kamrul Hasana，Md.Tasnim Jawada，Kazi Nasim Imtiaz Hasanb，Sajal Basak Parthab，...
四叉树卷积神经网络：稀疏图像的高效学习和处理
本文提出了一种四叉树卷积神经网络（QCNN），用于有效地从表示稀疏数据的图像数据集（如手写体、钢笔笔划、手绘草图等）中学习。代替存储稀疏的草图在常规的密集张量，我们的方法分解和表示的图像作为一个线性四叉树...
为什么卷积核需要反转180度
AI与算法都要通俗易懂
01-07 1115
因此，如果你用 scypi 库中的 signal 模块来计算卷积，是有 180 度反转过程的，因为 scypi 中的计算是严格遵循数学定义的。正因如此，深度学习中的卷积，就直接简化成了卷积核在输入图像上滑窗做乘累加运算，而不再需要像传统卷积那样进行 180 度旋转。在信号处理中，卷积是一种数学运算，用于接受两个信号(如输入信号和系统响应)，从而产生第三个信号，也就是输出。看了这篇文章后，其实不用再疑惑，这个很好理解，首先在深度学习中，卷积算法依然需要旋转。从数学的角度看，卷积运算的定义包括了这个反转步骤。
卷积核旋转180度理解
weixin_38383877的博客
04-21 2100
卷积中卷积核旋转180 相关中不旋转 其实在我们计算卷积时，对应元素相乘再相加为中心元素的致之前。这是基于对卷积核已经旋转180的前提。 为什么要旋转，是与公式相关的。 如果直接看推导公式。应该是卷积核未旋转前和图像的运算。 ...
为什么卷积要翻转/为什么深度学习卷积不翻转/卷积和相关
zhuazengbian9095的博客
03-09 5609
所以究其原因，是因为“时间的相对”，x(t’)过去1秒后，对“现在t"的影响力度是h(1);x(t’’)过去2秒后，对“现在t"的影响力度是h(2);… 站在现在时刻t，向左看，看到的是h(3),h(2),h(1),h(0)，倒过来的 参考 ...
为什么卷积要先反转再滑动呢？不翻转为什么不行？
TSINGHUAJOKING
05-06 3628
AD\STC\Tools\Download\WiFiDownload8G1K.SchDoc asdfasdf1 asdfasdf asdfasdfasdf2 AD\STC\Tools\Download\WiFiDownload8G1K.SchDoc D:\Temp\TEMP0001\test2.PY3 1 window:C51\STC\Test\2020\testAD76068...
深入理解卷积(卷积核到底要不要翻卷)
一个程序员
02-25 1万+
前言 我最初接触卷积，是在学习tensorflow的时候，其中有一个函数可以实现卷积操作：conv2d()。这个函数实现的功能，简单来说，就是将卷积核在输入的矩阵上平移，对应位置的乘积的和加上一个bias,即为输出。然而，有一天，我突然看到，发现对两个矩阵做卷积运算的时候，作为卷积算子的矩阵要逆时针旋转180度！！！what!!没有人，也没有书，告诉我，卷积除了平移，还有一个翻卷操作。于是，我便开...
求卷积层对卷积核导数旋转180的解释
热门推荐
qq_20028731的博客
04-09 1万+
卷积神经网络反向传导过程中，求卷积层对卷积核导数时，卷积核旋转180度再旋转的那条公式的解释说明。
评论 26
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值