attention 机制
关注
分享
扫一扫
qq_37972486
这个作者很懒，什么都没留下…
展开
-
Spatial Group-wise Enhance: Improving Semantic Feature Learning in Convolutional Network
文章的思路很简单，类似于SENet(对channel做attention)、spacial attention就是将channel分为group， 然后对每个group进行spatial的attention模块如上图所示，1、将feature map按channel维度分为G个group2、对每个group单独进行attention3、对group进行global average poo...转载 2020-05-02 15:56:04 · 944 阅读 · 0 评论 -
Selective Kernel Networks
**SKNet同样是一个轻量级嵌入式的模块，**其灵感来源是，我们在看不同尺寸不同远近的物体时，视觉皮层神经元接受域大小是会根据刺激来进行调节的。那么对应于CNN网络，一般来说对于特定任务特定模型，卷积核大小是确定的，那么是否可以构建一种模型，使网络可以根据输入信息的多个尺度自适应的调节接受域大小呢？基于这种想法，作者提出了Selective Kernel Networks（SKNet）。结构图...转载 2020-05-02 15:46:51 · 258 阅读 · 0 评论 -
SE-Networks
SENet是ImageNet 2017（ImageNet收官赛）的冠军模型，和ResNet的出现类似，都在很大程度上减小了之前模型的错误率（具体见附录），并且复杂度低，新增参数和计算量小。下面就来具体介绍一些SENet的神奇之处。SENet的全称是Squeeze-and-Excitation Networks，中文可以翻译为压缩和激励网络。主要由两部分组成：1. Squeeze部分。即为压缩部...原创 2020-05-02 15:14:24 · 841 阅读 · 0 评论 -
【CV中的Attention机制】Non-Local neural networks的理解与实现
注意力机制 NL NN转载 2020-05-01 17:00:22 · 263 阅读 · 0 评论