Selective Kernel Networks

最新推荐文章于 2024-05-11 08:30:00 发布
最新推荐文章于 2024-05-11 08:30:00 发布
阅读量8.8k 收藏 50
点赞数 9
分类专栏： 论文 文章标签： Selective Kernel Networks SKNet
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012839256/article/details/89042835
版权

选择核心网络——SKNet（解读）（源论文）

SK模型

文章指出，在神经科学界，视皮层神经元的感受野大小受刺激的调节，即对不同刺激，卷积核的大小应该不同，但这在构建CNN时一般在同一层只采用一种卷积核，很少考虑多个卷积核的作用。

文中提出了一种在CNN中对卷积核的动态选择机制，该机制允许每个神经元根据输入信息的多尺度自适应地调整其感受野（卷积核）的大小。设计了一个称为选择性内核单元（SK）的构建块，其中，多个具有不同内核大小的分支在这些分支中的信息引导下，使用SoftMax进行融合。由多个SK单元组成SKNet，SKNet中的神经元能够捕获不同尺度的目标物体。

SK组成

“选择性核”（SK）卷积，它由三个运算符组成：分裂(Split)、融合(Fuse)和选择(Select)。Split算子产生多条不同核大小的路径，上图中的模型只设计了两个不同大小的卷积核，实际上可以设计多个分支的多个卷积核。fuse运算符结合并聚合来自多个路径的信息，以获得用于选择权重的全局和综合表示。select操作符根据选择权重聚合不同大小内核的特征图。

（1）Split：如模型图所示，使用多个卷积核对 X 进行卷积，以形成多个分支。

图中使用3×3和5×5的卷积核的两个分支，为了进一步提高效率，将常规的5x5卷积替换为5x5的空洞卷积，即3x3，rate = 2卷积核。下图为5x5的空洞卷积。

（2）Fuse：首先通过元素求和从多个分支中融合出结果。

通过简单地使用全局平均池来嵌入全局信息，从而生成信道统计信息S，s∈R^C，C是模型图中S的特征维数或公式s的特征维数。

 

通过一个简单的全连接（fc）层创建了一个紧凑的特征Z，使其能够进行精确和自适应的选择特征，同时减少了维度以提高效率。z∈R^{d\times 1}

其中 δ 是relu函数，B表示批标准化，W∈R^{d\times ×C}。为了研究 d(全连接后的特征维数，即公式z或模型图中Z的特征维数) 对模型效率的影响，我们使用一个折减比 r 来控制其值。

L表示d的极小值，通过 L=32 是原文中实验的设置。

（3）Select：按照信道的方向使用softmax

然后与Split卷积后的特征进行乘和求和操作，

通过这两个分支的情况，可以推断更多分支的情况。

通过在自然图像中放大目标对象和缩小背景来模拟刺激，以保持图像大小不变。结果发现，当目标物体越来越大时，大多数神经元会越来越多地从更大的核路径中收集信息。这些结果表明，所提出的sknet中的神经元具有自适应的感受野大小。

实验（前两个）

（1）

224×表示待评价的单个224×224，同样为320×。SENets/ sknet都基于相应的ResNeXt。

（2）

当具有更高深度/宽度/基数的模型的计算成本增加以匹配sknet时，对ImageNet验证集的比较。括号中的数字表示性能的提高。

网络源码

源码链接：https://github.com/implus/SKNet

肥羊汤
关注
专栏目录
手把手带你 YOLOv5/v7 添加注意力机制（并附上30多种顶会Attention原理图）2024/2/5更新
YOLOv8项目贡献者
04-27 18万+
YOLOv5/v7 添加注意力机制教程 2023/6/15更新🍀🍀🍀
深度学习论文: Selective Kernel Networks及其PyTorch实现
mingo_敏
06-01 1603
Selective Kernel Networks PDF:https://arxiv.org/pdf/1903.06586.pdf PyTorch: https://github.com/implus/SKNet 1 概述 SENet是对特征图的通道注意力机制的研究，之前的CBAM提到了对特征图空间注意力机制的研究。这里SKNet针对卷积核的注意力机制研究。 SKNet提出了一种机制，即卷积核的重要性，即不同的图像能够得到具有不同重要性的卷积核。 SKNet对不同图像使用的卷积核权重不同，即一种针对不同尺
Selective Kernel Networks（SKNet）解析，附Pytorch实现代码
热门推荐
ITOMG的博客
11-17 1万+
背景： 在神经科学界，视皮层神经元的感受野大小受刺激的调节，即对不同刺激，感受野的大小应该不同。目前很多卷积神经网络的相关工作都只是通过改进网络的空间结构来优化模型，如Inception模块通过引入不同大小的卷积核来获得不同感受野上的信息。或inside-outside网络参考空间上下文信息，等等。但在构建传统CNN时一般在同一层只采用一种卷积核，也就是说对于特定任务...
(CVPR-2019)选择性的内核网络
顾道长生的科研笔记
07-28 1385
在标准的卷积神经网络（CNN）中，每层的人工神经元的感受野被设计成具有相同的大小。在神经科学界众所周知，视觉皮层神经元的感受野大小受刺激的调节，这在构建CNN时很少被考虑。我们提出了一种CNN中的动态选择机制，允许每个神经元根据输入信息的多个尺度来适应性地调整其感受野的大小。我们设计了一个叫做选择性核（SK）单元的构件，其中具有不同核大小的多个分支在这些分支的信息指导下，使用softmax注意力进行融合。对这些分支的不同关注产生了融合层中神经元的有效感受野的不同大小。...
Selective Kernel Networks 论文思维导图
04-18
该资源给出了论文 Selective Kernel Networks 整体的思维导图情况，可以更方便的加深对论文的理解与应用，所使用的软件是 MindMaster
视觉注意力机制——SKNet- Selective Kernel Networks
CharmsLUO的博客
11-18 3110
论文下载：https://arxiv.org/abs/1903.06586 代码下载：https://github.com/implus/SKNet 文章目录视觉注意力机制——SKNet- Selective Kernel Networks一、SKNet 视觉注意力机制——SKNet- Selective Kernel Networks 通常将软注意力机制：空间域、通道域、混合域、卷积域。 （1） 空间域——将图片中的的空间信息做相应的空间变换得到相应的权重分布，从而能将关键的信息提取出来。代表作有：Spa
选择内核注意力 SK | Selective Kernel Networks
YOLOv8项目贡献者
04-29 996
选择内核注意力 SK
SKNet: Selective Kernel Networks
00000cj的博客
02-08 1942
Selective Kernel Networks https://github.com/implus/PytorchInsight SKNet——SENet孪生兄弟篇 - 知乎 https://github.com/ResearchingDexter/SKNet_pytorch https://github.com/pppLang/SKNet
Selective Kernel Network
weixin_30877181的博客
04-22 249
senet: https://arxiv.org/abs/1709.01507 sknet: http://arxiv.org/abs/1903.06586 TL, DR Selective Kernel Networks 启发自皮质神经元根据不同的刺激可动态调节其自身的receptive field, 从而在CNN每一个 stage, 增加不同尺寸 filter 分支。 总体网络结构和 SENe...
「Computer Vision」Note on Selective Kernel Networks
小锋子Shawn
03-20 853
QQ Group: 428014259 Tencent E-mail：403568338@qq.com http://blog.csdn.net/dgyuanshaofeng/article/details/88698258 [1] Selective Kernel Networks CVPR 2019 [paper] [code]
论文阅读：Selective Kernel Networks
wang_chaochen的博客
11-23 2023
这是一篇算是结构性的文章，拿来看一下 2019CVPR ： SK-Net Selective Kernel Networks 由字面意思，选择性内核网络，可以自适应调整核大小的网络。 拟解决问题： 标准的CNN中，每一层的人工神经元的感受野设计为相同的大小。但是视觉皮层神经元的感受野大小是受刺激调节的，人工构造则没有考虑到这一点。这样就会导致在捕捉特征的时候无法很准确地捕捉特征。 本文则是提出了一种动态选择机制，允许每个神经元根据输入信息的多个尺度自适应调整感受野的大小。设计了一种被称为选择内核(SK)单
【SKNet】《Selective Kernel Networks》
bryant_meng
04-04 980
CVPR-2019 文章目录1 Background and Motivation2 Advantages / Contributions3 Method4 Experiments4.1 Datasets5 Conclusion（own） 1 Background and Motivation 来自：cs231n课件链接 人类视皮质神经元的感受野是随着刺激的不同而变化的，然而 CNN...
（论文翻译）Selective Kernel Networks（多尺度注意力CVPR2019）
最新发布
qq_39214409的博客
05-11 1418
在标准的CNNs网络中，每层中的人工神经元的感受野size是固定的挑战：众所周知，神经科学领域中，视觉皮层神经元的感受野size随着刺激进行改变，在CNNs的构建中很少被考虑方法在CNNS中，我们提出了一种动态选择机制，它使每个神经元动态的调整基于输入信息的多尺度的感受野size一种SK unit被设计，其中不同感受野size的多种branches通过这些branches上的信息使用进行融合branches上不同的attention在融合层中会产生不同的神经元感受野size。
Selective Kernel Networks方法简单整理
weixin_45657478的博客
07-16 820
Selective Kernel Networks方法简单整理
【论文阅读】Selective Kernel Networks
creami11的博客
10-14 267
源论文https://arxiv.org/pdf/1903.06586.pdf 源码https://github.com/implus/SKNet Introduction 本文提出了一种在CNN网络中动态选择的机制，让每一个神经元可以根据输入信息自动调整感受野大小。作者设计了一个网络模块，称为Selective Kernel Unit，以此来实现这个目的。 文中提出了一种在CNN中对卷积核的动态选择机制，该机制允许每个神经元根据输入信息的多尺度自适应地调整其感受野（卷积核）的大小。设计了一个称为选
selective kernel networks
03-16
选择性核网络 (Selective Kernel Networks) 是一种新型的深度学习架构，它通过在网络的不同层使用不同的核函数来提高模型的效率和性能。这些核函数可以是高斯核、多项式核等。选择性核网络可以在计算和存储资源有限...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

肥羊汤

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值