AFF-注意力特征融合 | Attentional Feature Fusion

最新推荐文章于 2025-03-04 14:38:01 发布
最新推荐文章于 2025-03-04 14:38:01 发布
阅读量5.3w 收藏 203
点赞数 22
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42096202/article/details/108963660
版权

感觉实验做的也太少了…很水
https://arxiv.org/pdf/2009.14082.pdf
https://github.com/YimianDai/open-aff

在这里插入图片描述

Abstract:

特征融合是来自不同层或分支的特征的组合，是现代网络体系结构中无所不在的一部分。它通常通过简单的操作（例如求和或拼接）来实现，但这可能不是最佳选择。在这项工作中，我们提出了一个统一的通用方案，即注意力特征融合，该方案适用于大多数常见场景，包括短跳跃和长跳跃连接以及在Inception层中引起的特征融合。为了更好地融合语义和尺度不一致的特征，我们提出了多尺度通道注意力模块，该模块解决了融合不同尺度给出的特征时出现的问题。我们还证明了特征图的初始集成可能会成为瓶颈，并且可以通过添加另一个注意力级别（称为迭代关注特征融合）来缓解此问题。在更少参数或网络层的情况下，我们的模型在CIFAR-100和ImageNet数据集上均优于最新的网络，这表明与特征直接融合相比，用于特征融合的更复杂的注意力机制具有持续产生更好结果的巨大潜力。

MS-CAM：

最低0.47元/天 解锁文章
注意力特征融合
m0_47867638的博客
08-02 1272
特征融合，即来自不同层或分支的特征的组合，是现代网络架构中无处不在的一部分。它通常通过简单的操作来实现，如求和或拼接，但这可能不是最佳选择。在这项工作中，我们提出了一种统一且通用的方案，即注意力特征融合，它适用于大多数常见场景，包括由短连接和长连接引起的特征融合以及Inception层内的特征融合。为了更好地融合不一致的语义和尺度的特征，我们提出了一个多尺度通道注意力模块，该模块解决了在融合不同尺度特征时出现的问题。
【YOLOv10改进[注意力]】使用迭代注意力特征融合（iterative attentional feature fusion，iAFF）改进c2f 助力v10有效涨点
静谧、淡雅
06-20 822
使用迭代注意力特征融合（iterative attentional feature fusion，iAFF）改进c2f 助力v10有效涨点
注意力机制与特征融合的完美融合，准确率飙升至顶峰，性能全面提升
AIzhijie001的博客
12-07 3013
具体来说，交叉注意力机制可以帮助模型识别不同模态间的重要关联，而特征融合则将这些关联转化为更加综合的特征表示，从而在图像识别、语音识别等任务中取得更好的效果。交叉注意力机制帮助模型识别和利用不同模态间的相关性，而特征融合则将这些信息整合到一起，使得模型能够更有效地处理和理解复杂的多模态数据。交叉注意力机制：提出了一种新颖的交叉注意力机制，能够同时利用模态内关系和模态间关系，以增强图像和句子匹配的效果。多尺度和多视图特征的结合：通过并行处理多个视图的不同分辨率输入，增强了模型在表示学习中的能力和整体性能。
Attentional Feature Fusion阅读笔记
Malidong的博客
06-29 1833
WACV 2021 Yimian Dai, Fabian Gieseke, Stefan Oehmcke, Yiquan Wu, Kobus Barnard 论文地址 一、简介 现有注意力存在三个缺点：1）有限的使用场景，SKNet和ResNeSt只关注同一层的特征选择，而跨层融合未得到有效解决，面临着如何集成不同尺度特征的问题。2）简单的初始集成，为了将得到的特征提供给注意模块，SKNet通过相加来进行特征融合，而这些特征在规模和语义上存在很大的不一致性。3）偏向上下文聚合尺度，SKNet和ResNeSt
交叉注意力结合特征融合，这个创新思路必将爆发！
最新发布
2401_88556812的博客
03-04 992
性能提升：在Flickr30K数据集上，图像到文本检索的R@1、R@5、R@10指标分别达到74.2%、92.8%、96.4%，相比之前的最佳方法（如SCAN的67.4%、90.3%、95.8%）有显著提升；性能提升：在DEAP数据集上，该方法在情绪效价（valence）和唤起度（arousal）的识别准确率分别达到了99.49%和99.30%，相比其他方法（如DE+PSD基线方法的90.90%和91.30%）有显著提升。
特征融合新技术——自适应特征融合！高效又涨点！
d22800的博客
02-14 3382
自适应特征融合（Adaptive Feature Fusion，AFF）是一种深度学习中的特征处理技术，它通过动态调整特征融合过程来提高模型的泛化能力和性能表现，今天分享的就是关于自适应特征融合的论文解读。我还整理出了相关的论文+开源代码，以下是精选部分论文更多论文资料可以关注领取相关[论文+开源码】
基于注意力机制融合多特征的空气质量预测 AFF-LSTM神经网络
renzhenxuanxuan的博客
05-09 1810
在这用到了注意力融合多特征，这个方法在现在还是挺少有人用的。只有这个方法的说明也没有实际案例。我也是看他们的文章打算来自己写写，里面也有一些创新地方-神经网络下。【即插即用】涨点神器AFF：注意力特征融合（已经开源，附论文和源码链接）-技术圈本文转载自 AI人工智能初学者，作者ChaucerG这篇文章一种新注意力特征融合机制AFF！性能优于SKNet、SENet等方法，可应用于分类、语义。
Attentional Feature Fusion 注意力特征融合
热门推荐
执笔画红颜丶的博客
08-25 2万+
看到一篇比较不错的特征融合方法，基于注意力机制的 AAF ，与此前的 SENet、SKNet 等很相似，但 AFF性能优于它们，并且适用于更广泛的场景，包括短和长跳连接以及在 Inception层内引起的特征融合。AFF是由南航提出的注意力特征融合，即插即用！
涨点神器！南航提出AFF：注意力特征融合，即插即用！可用于分类、检测和分割等...
阿木寺的博客
10-24 2万+
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达作者：OucQxw |已授权转载（源：知乎）https://zhuanlan.zhihu.com/p/415238...
Attentional Feature Fusion
qq_42882457的博客
08-05 2833
AFF
open-aff:注意特征融合的代码和训练有素的模型
03-21
注意特征融合 用于“注意特征融合”的MXNet / Gluon代码 到目前为止，此仓库中有什么： ImageNet的代码，训练有素的模型和训练日志 PS： 如果您是我们提交的论文的审稿人，请注意，当前实现的准确性比本文中的准确性要高一些，因为它是一个带有很多技巧的新实现。 如果您是我的学位论文评估专家，发现论文与这个repo的数字有些出入，那是因为在论文提交后我又将代码重新实现一遍遍，添加了AutoAugment，Labelinging这些技巧，因此目前这个repo中的分类准确率会比论文中的数字高一些，还请见谅。 更改日志： 2020-10-08：通过一整套技巧重新实现图像分类代码 2020-09-29：上载所提交论文的图像分类代码和训练有素的模型 去做： 在ImageNet上运行AFF-ResNeXt-50和AFF-ResNet-50 在新的训练模型上更新Grad-CAM结果 重新实
Attentional Feature Fusion中所提的注意力模块的代码
m0_47452894的博客
02-22 1158
最近看了Attentional Feature Fusion这篇文章，对其提出的注意力机制模块很感兴趣，所以就上github找了一下，为了方便自己记录和使用，所以就复制到这里了。
【YOLOv8改进[注意力]】使用迭代注意力特征融合（iterative attentional feature fusion，iAFF）改进c2f 助力v8有效涨点
静谧、淡雅
06-20 317
使用迭代注意力特征融合（iterative attentional feature fusion，iAFF）改进c2f 助力v8有效涨点
Attention结合特征融合炸场！升级版AFF全面开源，涨点猛猛猛
学姐带你玩AI的博客
08-09 2842
一种在深度学习领域被广泛应用的先进技术，通过结合注意力机制和特征融合，可以显著提升模型的泛化能力和性能。拿其中关键的多尺度通道注意力模块MS-CAM来说，注意力特征融合利用MS-CAM兼顾global feature和local feature，通过注意力机制对特征进行加权平均，引导模型关注重要的信息，然后再融合，这样就能实现更高精度。因此这种技术比起传统特征融合关于AFF的研究只多不少。为了方便大家找灵感写论文，我整理了，全部开源有代码。论文原文+开源代码需要的同学看文末。
Attentional Feature Fusion论文阅读
yy2050645的博客
12-31 1418
论文地址:https://arxiv.org/pdf/2009.14082.pdf 代码地址:https://github.com/YimianDai/open-aff
AFF特征融合模块汇总
weixin_72625335的博客
01-05 4464
在注意力特征融合模块中 ，X和Y初始特征的融合仅是简单对应元素相加，然后作为注意力模块的输入会对最终融合权重产生影响。作者认为如果想要对输入的特征图有完整的感知，只有将初始特征融合也采用注意力融合的机制，一种直观的方法是使用另一个attention模块来融合输入的特征。对输入的两个特征X，Y先做初始特征融合，经过sigmod激活函数，输出值为0~1之间，作者希望对X 、Y 做加权平均，就用 1 减去这组 Fusion weight，可以作到 Soft selection，通过训练，让网络确定各自的权重。
Attentional Feature Fusion 注意力整合模块
weixin_46078886的博客
06-22 799
第一个分支是全局分支进行通道维度交互，第二个是通道局部维度交互，第一个分支得到的维度是B*C*1*1,第二个分支得到的是和输入一样的形状B*C*H*W。X和Y是不同的特征（例如X是3*3卷积得到的特征，Y是7*7卷积得到的特征，X和Y是并行分支），把X和Y相加传入到MS-CAM注意力模块中，输出为一个张量M为B*C*H*W，则X与M逐点相乘，Y与（1-M）逐点相乘，最后相加。先将X和Y经过一次上述的AFF操作，得到的初始整合特征，再将整合后的特征再次输入到AFF中。表示如何整合X和Y，通常是直接相加。
【WACV 2021】Attentional Feature Fusion
陌若安生的博客
10-23 398
知乎： 【WACV 2021】Attentional Feature Fusion
注意力特征融合机制AFF的作用
05-09
注意力特征融合机制（Attentional Feature Fusion，AFF）是一种用于多模态特征融合的技术，它在每个模态的特征向量上应用注意力机制，以获得特征的加权组合。AFF的主要作用是将不同的模态（如图像和文本）中的信息...
评论 30
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值