细粒度分类：ACNet论文笔记——Attention Convolutional Binary Neural Tree for Fine-Grained Visual Categorization

最新推荐文章于 2024-07-20 12:52:23 发布
最新推荐文章于 2024-07-20 12:52:23 发布
阅读量88 收藏
点赞数
分类专栏： 细粒度分类经典论文及源码笔记 文章标签： 论文阅读 计算机视觉 细粒度分类 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_50001789/article/details/131361546
版权

细粒度分类：ACNet论文笔记——Attention Convolutional Binary Neural Tree for Fine-Grained Visual Categorization

综述

论文题目：《Attention Convolutional Binary Neural Tree for Fine-Grained Visual Categorization》
会议时间：IEEE Conference on Computer Vision and Pattern Recognition 2020 (CVPR, 2020)

论文地址：https://openaccess.thecvf.com/content_CVPR_2020/papers/Ji_Attention_Convolutional_Binary_Neural_Tree_for_Fine-Grained_Visual_Categorization_CVPR_2020_paper.pdf

源码地址(PyTorch版本)：https://github.com/FlyingMoon-GitHub/ACNet

针对领域：细粒度图像分类(FGVC)

主要思想

  由于遮挡、光照、变形引起的高类内方差与低类间方差，使得细粒度分类变得非常具有挑战性。对此，作者设计一种用于细粒度分类的注意力卷积二元神经树(attention convolutional binary neural tree architecture, ACNet)&#x

了解本专栏 订阅专栏 解锁全文
视觉萌新、
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
订阅专栏
Attention Convolutional Binary Neural Tree for Fine-Grained Visual Categorization
weixin_39454351的博客
08-04 1551
背景介绍 Fine-grained visual categorization (FGVC)： 目标：目的是区分目标的子类别，如不同种类的鸟和不同种类的花。 挑战：由形变、遮挡、光照引起的高类内差异和低类间差异。 Attention Convolutional Binary Neural Tree: CNN在图像分类取得了好的效果，但很难描述子类之间的区别，本文设计了一种树结构的注意力神经网络，能够由粗到细层次特征学习，不同的分支注意不同的局部位置，实验表明这种树结构神经网络的良好性能。 本文贡献 提出
细粒度图像分类论文研读-2020
weixin_46365033的博客
12-07 1295
大部分现存的注意力模型在FGVC任务当中表现不佳，原因有以下几点：为了解决上述问题，本文提出了一种新的“过滤和蒸馏学习”（FDL）模型，以提高FGVC细分部分的区域关注度。首先，基于提议和预测之间的匹配性，本文针对有区分度的区域提议提出了一种过滤学习的方法。特别地，本文用了提议与预测的匹配性作为RPN的性能度量，从而实现了RPN的直接优化，以过滤得到最具有区分度的区域。具体来说，基于对象的特征学习和基于区域的特征学习被定义为“教师”和“学生”，这可以为基于区域的学习提供更好的监督。FDL可以有效地提升区域关
细粒度分类：ACNet（Attention Convolutional Binary Neural Tree）
DaZheng121的博客
05-06 2341
文章目录前言摘要一、简介二、相关工作三、Attention Convolutional Binary Neural Tree3.1 ArchitectureBackbone network moduleBranch routing moduleAttention transformerLabel prediction3.2 TrainingData augmentationLoss functionOptimization四、实验五、结论其他 前言 本文主要介绍 Attention Convolution
ACNet: 特别的想法，腾讯提出结合注意力卷积的二叉神经树进行细粒度分类 | CVPR 2020
晓飞的算法工程笔记
03-06 2723
论文提出了结合注意力卷积的二叉神经树进行弱监督的细粒度分类，在树结构的边上结合了注意力卷积操作，在每个节点使用路由函数来定义从根节点到叶子节点的计算路径，结合所有叶子节点的预测值进行最终的预测，论文的创意和效果来看都十分不错   来源：晓飞的算法工程笔记 公众号 论文: Attention Convolutional Binary Neural Tree for Fine-Grained Vi...
腾讯提结合ACNet进行细粒度分类，效果达到最新SOTA | CVPR 2020
AI科技大本营
03-13 3439
作者 | VincentLee来源 | 晓飞的算法工程笔记细粒度分类(Fine-Grained Visual Categorization, FGVC)...
Attention Convolutional Binary Neural Tree for Fine-Grained Visual Categorization论文阅读
程序员养成日记
09-22 779
用于细粒度视觉分类的注意力卷积二叉神经树 注意力卷积二叉神经树结构 沿着树结构的边缘加入卷积操作，并使用每个节点中的路由函数来确定树从根到叶节点的计算路径(作为深度神经网络)。最终的决策是由叶节点预测的总和计算出来的。 这种设计结构使该方法继承了深度卷积模型的表示学习能力和由粗到细的层次学习过程。树结构的不同分支集中在不同的局部对象区域进行分类，最终的决策是由叶节点预测的总和计算出来的。 同时使用注意转换器来强制树状网络捕捉鉴别特征以获得准确结果。 ACNet的architecture 包含4个模块：主干
[2015-ICCV].Bilinear CNN Models for Fine-grained Visual Recognit
08-03
在细粒度视觉识别领域，Bilinear CNN Models for Fine-grained Visual Recognition提出了一种简单而有效的架构，称为Bilinear Convolutional Neural Networks（B-CNNs）。这种网络通过两个CNN提取的特征之间的外积...
DeepLOB-Deep-Convolutional-Neural-Networks-for-Limit-Order-Books:这个jupyter笔记本用来演示我们最近的工作，“ DeepLOB
05-23
DeepLOB-深度卷积神经网络用于有限订购书这个jupyter笔记本用于演示我们最近在IEEE Transactions on Singal Processing上发表的工作“ DeepLOB：用于极限定单书... FI-2010公开发布，有兴趣的读者可以查看他们的论文。
论文研究-Accelerate convolutional neural networks for binary classification: a cascading cost-sensitive feature approach.pdf
08-22
加速卷积神经网络在二元分类中的速度：级联代价敏感的特征方法，庞俊彪，林辉煌，目前,卷积神经网络在很多计算机视觉任务上都取得了领先的性能。但是,卷积神经网络的计算复杂度非常高。实证结果发现,卷积神经网络
Pervasive Attention 2D Convolutional Neural Networks for Sequence-to-Sequence
09-28
提供的PDF文档《Pervasive Attention 2D Convolutional Neural Networks for Sequence-to-Sequence Prediction.pdf》详细阐述了模型的理论基础、实现方法以及实验结果，源代码文件《Pervasive Attention 2D ...
Learn-Convolutional-Neural-Network-for-Face-Anti-Spoofing:“学习用于面部反欺骗的卷积神经网络”论文的实现
05-01
“”论文的实现 结果 CASIA内测 原始数据集：或（密码：h5un） 规模 1.0 1.4 1.8 2.2 2.6 吝啬的 开发EER 0.1094 0.0408 0.0346 0.0339 0.0670 0.0571 测试HTER 0.1033 0.0492 0.0568 0.0675 0....
【论文阅读】Mamba: Linear-Time Sequence Modeling with Selective State Spaces
kanon的博客
07-19 752
Mamba模型基于Transformer架构，旨在解决传统Transformer在长序列上的计算效率问题。通过引入选择性状态空间SSMs（Selective State Spaces），Mamba能够在保持线性时间复杂度的同时，实现与Transformer相媲美的性能。首先，简单地让SSM参数成为输入的函数，解决了它们在离散模态方面的弱点，允许模型根据当前令牌选择性地沿序列长度维度传播或忘记信息。其次，尽管这一变化阻碍了高效卷积的使用，但在循环模式下设计了一种硬件感知的并行算法。
【论文阅读笔记】Attention Is All You Need
pursuit的博客
07-17 785
Transformer的成功不仅在于其高效的信息传递路径，还在于其能够在更大范围内捕捉和利用序列中的关联信息，从而提升了序列建模任务的性能和效果。在Transformer中的位置编码使用了sin函数和cos函数，这种方法不同于传统的学习得到的位置嵌入，而是采用固定的函数形式，即。是序列处理模型中的基本思想。注意力机制就是对一系列的query和一系列的key-value对，我们需要确定对于每个query而言不同 value 的重要程度，而这个权重是根据 query 和key 的相关度计算得到的。
[论文笔记] pai-megatron-patch Qwen2-72B/7B/1.5B 长文本探路
心宝的博客
07-19 864
开SP之后，72B能开到16K，7B能开到32K。但是72B开16K，或者7B开32K时，如果训练时训练样本中有长文本的话，则还是会OOM。相对于原repo加了一些代码适配性的问题。
VAE论文阅读
HGGshiwo的博客
07-17 1066
其实有了概率密度，可以直接在里面采样。这里是推导过程，大家都这么写。在实际操作的时候，所有的p都会变成一个已知的分布，否则无法计算的。pθx一些公式p_\theta(x) = 一些公式pθ​x一些公式这些公式计算后发现是一个高斯分布NμσNμσxμσεxμσε其中ϵ\epsilonϵ是随机采样的噪声。所以说，两种形式必须都能看懂才行。
【论文阅读】（StemGNN）多元时间序列预测的谱时间图神经网络
kanon的博客
07-17 1034
论文提出了一种新型的深度学习模型StemGNN，用于提高多变量时间序列预测的准确性。论文将多变量时间序列预测问题定义为基于多变量时间图（multivariate temporal graph）的数据结构。StemGNN在频谱域中同时捕获时间序列内部和序列间的相关性。模型结合了图傅里叶变换（GFT）和离散傅里叶变换（DFT），并在端到端框架中使用卷积和序列学习模块进行有效预测。实验在十个真实世界的数据集上进行，证明了StemGNN的有效性。
【论文阅读笔记】Hierarchical Neural Coding for Controllable CAD Model Generation
pursuit的博客
07-19 940
作者提出了一种CAD的创新生成模型，该模型将CAD模型的高级设计概念表示为从全局部件排列到局部曲线几何的三层神经代码的层级树，并且通过指定目标设计的代码树来控制CAD模型的生成或完成。具体而言，一种带有“掩码跳过连接”的向量量化变分自编码器(VAE)的新变体在三个层次上提取设计变化作为神经码本。两阶段的级联自回归Transformer学习从不完整的CAD模型生成代码树，然后根据预期设计完成CAD模型。广泛的实验表明，在无条件生成等传统任务上表现出优越性能，同时在条件生成任务中实现了新颖的交互能力。
论文阅读——Integrated Diffusive Antenna Array of Low Backscattering
最新发布
weixin_45975569的博客
07-20 553
文章提出了一种低雷达散射截面（RCS）的扩散天线阵列。作为示例，一个8×8的缝隙天线阵列与两个极化转换器集成，这与传统的天线+整流罩结构不同，传统结构中整流罩是放置在天线外部的。缝隙天线还充当了放置在缝隙阵列上方的两个极化器的反射平面。该集成结构通过交叉极化的极化转换来扩散带外入射波。设计一种低RCS和高增益的天线阵列，在其工作频段之外具有低RCS特性，同时不降低其高增益辐射特性，是至关重要的。方法一及缺点采用扩散整流罩是基于相位抵消来减少后向散射的代表性方法之一，它可以将入射波扩散到其他方向。
eca-net: efficient channel attention for deep convolutional neural networks
09-09
### 回答1： ECA-Net是一种用于深度卷积神经网络的高效通道注意力机制，可以提高模型的性能和效率。它通过对每个通道的特征图进行加权，使得网络可以更好地学习到重要的特征。ECA-Net的设计简单，易于实现，并且可以与各种深度卷积神经网络结构相结合使用。 ### 回答2： ECA-Net是一种用于深度卷积神经网络的高效通道注意力机制。 ECA-Net通过提出一种名为"Efficient Channel Attention"（ECA）的注意力机制，来增强深度卷积神经网络的性能。通道注意力是一种用于自适应调整不同通道的特征响应权重的机制，有助于网络更好地理解和利用输入数据的特征表示。 相比于以往的注意力机制，ECA-Net采用了一种高效且可扩展的方式来计算通道注意力。它不需要生成任何中间的注意力映射，而是通过利用自适应全局平均池化运算直接计算出通道注意力权重。这种方法极大地降低了计算和存储开销，使得ECA-Net在实际应用中更具实用性。 在进行通道注意力计算时，ECA-Net引入了两个重要的参数：G和K。其中，G表示每个通道注意力的计算要考虑的特征图的大小；K是用于精细控制计算量和模型性能之间平衡的超参数。 ECA-Net在各种视觉任务中的实验结果表明，在相同的模型结构和计算资源下，它能够显著提升网络的性能。ECA-Net对不同层级的特征表示都有显著的改进，能够更好地捕捉不同特征之间的关联和重要性。 总之，ECA-Net提供了一种高效并且可扩展的通道注意力机制，可以有效提升深度卷积神经网络的性能。它在计算和存储开销上的优势使得它成为一个非常有价值的工具，可在各种计算资源受限的应用中广泛应用。 ### 回答3： "eca-net: efficient channel attention for deep convolutional neural networks" 是一种用于深度卷积神经网络的高效通道注意力模块。这一模块旨在提高网络对不同通道（特征）之间的关联性的理解能力，以提升网络性能。 该方法通过引入了一个新的注意力机制来实现高效的通道注意力。传统的通道注意力机制通常是基于全局池化操作来计算通道之间的关联性，这种方法需要较高的计算成本。而ECA-Net则通过引入一个参数化的卷积核来计算通道之间的关联性，可以显著减少计算量。 具体来说，ECA-Net使用了一维自适应卷积（adaptive convolution）来计算通道注意力。自适应卷积核根据通道特征的统计信息来调整自身的权重，从而自适应地计算每个通道的注意力权重。这样就可以根据每个通道的信息贡献度来调整其权重，提高网络的泛化能力和性能。 ECA-Net在各种图像分类任务中进行了实验证明了其有效性。实验结果显示，ECA-Net在相同计算预算下，相比其他通道注意力方法，可以获得更高的分类精度。同时，ECA-Net还具有较少的额外计算成本和模型大小，使得其在实际应用中更加高效。 总结而言，"eca-net: efficient channel attention for deep convolutional neural networks" 提出了一种高效通道注意力方法，通过引入自适应卷积核来计算通道注意力，从而提高了深度卷积神经网络的性能。这一方法在实验中取得了良好的效果，并且具有较少的计算成本和模型大小。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

视觉萌新、

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值