深度学习面试题27：非对称卷积(Asymmetric Convolutions)

最新推荐文章于 2024-08-14 17:11:04 发布
最新推荐文章于 2024-08-14 17:11:04 发布
阅读量1.1k 收藏 3
点赞数 1
文章标签： 人工智能 面试
原文链接：http://www.cnblogs.com/itmorn/p/11252076.html
版权

目录

　　产生背景

　　举例

　　参考资料

 

产生背景

之前在深度学习面试题16：小卷积核级联卷积VS大卷积核卷积中介绍过小卷积核的三个优势：

①整合了三个非线性激活层，代替单一非线性激活层，增加了判别能力。

②减少了网络参数。

③减少了计算量

在《Rethinking the Inception Architecture for Computer Vision》中作者还想把小卷积核继续拆解，从而进一步增强前面的优势

 返回目录

 

举例

一个3*3的卷积可以拆解为：一个3*1的卷积再串联一个1*3的卷积，实验证明这样做在精度上损失不大，这两者的感受野是相同的，如下图所示：

 

同理，

5*5的卷积可以拆解为：一个5*1的卷积再串联一个1*5的卷积

7*7的卷积可以拆解为：一个7*1的卷积再串联一个1*7的卷积

作者在论文《Rethinking the Inception Architecture for Computer Vision》中说明，这样的非对称卷积不要用在靠近输入的层，会影响精度，要用在较高的层

 返回目录

 

参考资料

《图解深度学习与神经网络：从张量到TensorFlow实现》_张平

Rethinking the Inception Architecture for Computer Vision

 返回目录

 

转载于:https://www.cnblogs.com/itmorn/p/11252076.html

weixin_30413739
关注
深度学习CV面试题总结，非常实用，助力加分
03-19
### 深度学习CV面试题总结：关键知识点解析 #### 一、深度学习基础知识概述 **1.1 CNN的基本架构** CNN（Convolutional Neural Network，卷积神经网络）是一种特殊的神经网络结构，主要用于处理具有网格结构的...
深度学习基础--卷积--非对称卷积(googlenet系列)
wydbyxr的博客
11-14 6693
非对称卷积（googlenet v3）   1）先进行 n×1 卷积再进行 1×n 卷积，与直接进行 n×n 卷积的结果是等价的。   2）非对称卷积能够降低运算量，这个很好理解吧，原来是 n×n 次乘法，改了以后，变成了 2×n 次乘法了，n越大，运算量减少的越多。   3）虽然可以降低运算量，但这种方法不是哪儿都适用的，非对称卷积在图片大小介于12×12到20×20大小之间的时候，效果比较好，...
3*3卷积+1*3卷积+3*1卷积=白给的精度提升
jacke121的专栏
03-26 9959
ICCV2019: 通过非对称卷积块增强CNN的核骨架 下面要介绍的论文发于ICCV2019，题为「ACNet:Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric ConvolutionBlocks」，axriv地址为：https://arxiv.org/abs/1908.03930v1。 由...
一文理解多标签分类损失函数ASL(Asymmetric Loss)
最新发布
Thomas_Cai的记忆殿堂
08-14 1108
一文理解asl，从ce到focal loss到asl
【ICCV 2019】ACNet: 使用非对称卷积块增强CNN的卷积核骨架
weixin_44378835的博客
07-20 2145
这篇文章提出了ACNet，使用了一种可以替代原始CNN模型中普通方形$d\times d$卷积核的非对称卷积块（ Asymmetric Convolution Block，ACB）。非对称卷积块由卷积核为方形($d×d$)、水平($1×d$)和垂直($d×1$)的三个平行层组成，水平和垂直卷积核与方形卷积核相加可以对方形卷积核的骨架进行增强。利用得到的卷积核参数对原始模型进行部署还可以在不需要额外的计算成本的前提下提升原始模型的准确率：.....................
ACNet论文阅读笔记
梦的灰色边沿...
05-26 1069
  论文地址：ACNet   论文代码：github 1 研究思路   尝试提出一个和架构无关的新型CNN结构来提升CNN的性能。稳重提取了非对称卷积块(ACB)，使用三个并行的d×d,1×d,d×1d\times d,1\times d, d\times 1d×d,1×d,d×1代替原始的d×dd\times dd×d卷积核进行特征提取。 2 结构 2.1 非对称卷积   非对称卷积基本上是相对对称卷积来说的，对称卷积一般为3×33\times 33×3，非对称卷积一般为1×31\times 31×3或者
【Fourier Convolution】傅里叶卷积
安安爸Chris的专栏
07-10 3063
原文地址： https://terpconnect.umd.edu/~toh/spectrum/Convolution.html 什么是卷积 Convolution is an operation performed on two signals which involves multiplying one signal by a delayed or shifted version of another signal, integrating or averaging the product, and
深度学习面试题附答案
12-11
深度学习面试题通常涵盖模型架构、优化算法、正则化技术、损失函数、反向传播等核心概念，以及如何应用这些知识解决实际问题，如图像分类、自然语言处理等。理解并掌握这些知识点对于在深度学习领域寻求职业发展至关...
深度学习利器：TensorFlow与深度卷积神经网络
02-25
但在过去的几年中，图像识别技术取得了巨大的进展，在一些固定领域可以达到，甚至超越人类的识别精度，该技术称为深度卷积神经网络（DeepConvolutionalNeuralNetwork）。目前，学术界主要通过ImageNet的Benchmark...
深度学习面试题记录(三).pdf
06-06
深度学习中卷积神经网络（CNN）是目前图像处理和语音识别等领域应用最为广泛的算法之一，其核心包括卷积层、池化层和全连接层等结构。下面详细解释卷积神经网络的各个知识点。 首先，卷积操作在深度学习中的作用是...
深度学习笔记-15.CNN中常见的问题
01-06 959
目录 1.卷积核有什么类型？ 2. 为什么现在倾向于用小尺寸的卷积核？ 3. 有哪些池化方法？ 4. 怎样才能减少卷积层参数量？ 5. CNN做卷积的运算时间复杂度、空间复杂度？ 5.1 复杂度对模型的影响 5.2 时间复杂度 5.3 空间复杂度 6. 解释下卷积神经网络中感受野Receptive field (RF)的概念？ 6.1 感受野Receptive field ...
非对称卷积—Asymmetric Convolutions
leadai的博客
04-13 7709
NVIDIA DLI深度学习入门培训 | 特设三场4.28/5.19/5.26一天密集式训练  快速带你入门深度学习阅读全文>正文1547个字，1张图，预计阅读时间5分钟。最近拜读了Christian Szegedy的Rethinking the Inception Architecture for Computer Vision，让我开了许多脑洞。不得不承认，现在的深度学习发展太快了，稍不留神，
卷积神经网络在图像识别中的缺点_基于非对称全局卷积神经网络的遥感图像识别方法...
weixin_36400198的博客
01-30 1018
遥感图像的地物种类识别在土地资源管理、生态系统监测和森林状态评估等领域中起着基础性作用，该任务的主要目的是通过对图像特征的理解和分析，判断出图像中所包含的主要目标类别信息，如农作物、沙滩或森林等。为提高遥感图像地物种类识别的精度和效率，模式识别和机器学习等方法被广泛应用，并且取得了令人满意的效果。近年来，随着深度学习技术在计算机视觉领域的发展，使用深度卷积神经网络(convolution...
一文看尽深度学习中的20种卷积（附源码整理和论文解读）
浩瀚之水的专栏
09-29 3234
引言 卷积，是卷积神经网络中最重要的组件之一。不同的卷积结构有着不一样的功能，但本质上都是用于提取特征。比如，在传统图像处理中，人们通过设定不同的算子来提取诸如边缘、水平、垂直等固定的特征。而在卷积神经网络中，仅需要随机初始化一个固定卷积核大小的滤波器，并通过诸如反向传播的技术来实现卷积核参数的自动更新即可。其中，浅层的滤波器对诸如点、线、面等底层特征比较敏感，深层的滤波器则可以用于提取更加抽象的高级语义特征，以完成从低级特征到高级特征的映射。本文将从背景、原理、特性及改进四个维度分别梳理10篇影响力深远
超实用性！哈工大提出ACNet：用于超分辨的非对称卷积神经网络
阿木寺的博客
04-05 2629
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达由哈尔滨工业大学、鹏城实验室、国立清华大学及香港中文大学的学者提出了一种用于盲噪声的盲超分辨的非对称卷积神经网络，该论文...
卷积核的类型及其作用
Billie使劲学的博客
07-13 6522
这是为什么呢？ 这就是解释了为什么很多网络的第一层使用的都是7×7的大卷积核接受输入图片，因为网络开头使用小卷积核进行下采样参数量会更大。感受野的计算是迭代计算感受野计算公式：1个5×5卷积：RF = 52个3×3卷积：RF = 3+（3-1）×1 = 51个7×7卷积：RF = 73个3×3卷积：RF = 3+（3-1）×1+（3-1）×1 = 7 标准的3×3卷积核只能看到对应区域3×3的大小，但是为了能让卷积核看到更大的范围，dilated conv使其成为了可能。poo
【个人笔记 | 卷积大礼包 | 整理中Ing】
sinat_40759442的博客
03-06 412
五湖四海的卷积家人们欢聚一堂。
001 卷积神经网络
tangpoza的博客
01-18 495
模板模板新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 模板 深度学习在文本分类类任务中的应用。 以往的文本分...
非对称卷积
Viraha_的博客
08-27 5023
非对称卷积的代码实现 假设有一个5x5大小的特征图，使用3x3的卷积，不进行padding（即valid），步长默认为1。 计算量： 先进行3x1卷积核的滑动，横向滑动3次，纵向滑动5次，每一次计算量为3，计算量为（3x5)x3=45。得到的新的特征图为 [3,5] 。再进行1x3卷积，横向滑动3次，纵向滑动3次，每一次计算量为3，计算量为（3x3）x3=27。则总的计算量为45+27=72 使用3x3的卷积核对5x5的图进行卷积得到的计算量为：横竖三次滑动，每次计算量为9，则9x9=81>72 代码
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值