TPAMI 2024 | 用于判别性行人搜索的原型引导注意力蒸馏

最新推荐文章于 2025-04-30 15:03:34 发布
最新推荐文章于 2025-04-30 15:03:34 发布
阅读量34 收藏
点赞数
分类专栏： 论文解读 IEEE TPAMI 文章标签： 深度学习 人工智能 计算机视觉 IEEE TPAMI 论文解读 顶刊论文
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42722197/article/details/144930926
版权

论文信息

题目：Prototype-guided Attention Distillation for Discriminative Person Search
用于判别性行人搜索的原型引导注意力蒸馏
作者：Hanjae Kim, Jiyoung Lee, Kwanghoon Sohn

论文创新点

  1. 提出原型引导的注意力蒸馏（PAD），通过原型指导注意力模块，突出身份固有区域，减少噪声干扰。
  2. 引入多原型设置，捕捉类内变化，增强对视角和姿态变化的鲁棒性。
  3. 采用自适应动量更新策略，提升原型优化和注意力蒸馏的效果，增强类间可分性。

摘要

行人搜索旨在从由多个非重叠摄像头捕捉的大型图像库中定位感兴趣的行人。现有的统一方法面临两个主要问题：（1）噪声建议，包括误检测和遮挡；（2）类内外观变化大，这会损害基于原型的度量学习。为了解决这些问题&#

了解本专栏 订阅专栏 解锁全文
TPAMI 2025 | 用于判别性行人搜索的原型引导注意力蒸馏
小白学视觉
03-20 18
行人搜索旨在从由多个非重叠摄像头捕捉的大型图像库中定位感兴趣的行人。现有的统一方法面临两个主要问题：（1）噪声建议，包括误检测和遮挡；（2）类内外观变化大，这会损害基于原型的度量学习。为了解决这些问题，作者提出了原型引导的注意力蒸馏（Prototype-guided Attention Distillation，简称PAD），利用原型（身份的典型表示）作为注意力模块的指导，以在不同姿态下一致地突出身份固有的区域。
【迁移学习】原型引导领域感知渐进表示学习（prototype-guided domain-aware progressive representation learning PG-DPRL）（一）
2401_89898861的博客
01-20 719
【迁移学习】原型引导领域感知渐进表示学习（prototype-guided domain-aware progressive representation learning PG-DPRL）（一）
TPAMI 2024 | SketchTrans：使用Transformer进行草图照片识别的纠缠原型学习
小白学视觉
06-02 221
在手绘制草图与照片匹配（即草图-照片识别或重新识别）中，由于草图模态的抽象性质，存在信息不对称的挑战。现有的工作倾向于通过丢弃照片图像的外观线索或引入生成对抗网络（GAN）进行草图-照片合成，来学习共享嵌入空间的CNN模型。前者不可避免地损失了可判别性，而后者则包含了无法抹去的生成噪声。在本文中，我们首次尝试设计一种通过跨模态解耦原型学习的信息对齐草图变换器（SketchTrans+），而变换器在判别性视觉建模方面展现出巨大潜力。
TPAMI 2024 | 联邦学习的泛化性、鲁棒性和公平性：综述与基准测试
小白学视觉
04-12 32
联邦学习已成为一种在不同参与方之间进行隐私保护协作的有前景的范式。近年来，随着联邦学习的普及，大量方法被提出以应对各种现实挑战。在这篇综述中，作者对联邦学习的重要近期研究进展进行了系统概述。首先，介绍了该领域的研究历史和术语定义。然后，通过引入各自的背景概念、任务设置和主要挑战，全面回顾了联邦学习的三个基本研究方向：泛化性、鲁棒性和公平性。作者还详细概述了具有代表性的方法和数据集相关文献，并在多个知名数据集上对所回顾的方法进行了基准测试。最后，指出了该领域的几个开放性问题，并提出了进一步研究的方向。
TPAMI 2024 | 数据不平衡克星，ProCo算法：长尾视觉识别的终极解决方案！
强化学习曾小健
09-29 1360
长尾分布经常出现在现实世界的数据中，其中大量的少数类别包含有限数量的样本。这种不平衡问题极大地损害了主要为平衡训练集设计的标准监督学习算法的性能。最近的研究表明，监督对比学习在缓解数据不平衡方面表现出良好的潜力。然而，监督对比学习的性能受到一个固有挑战的困扰：它需要足够大的训练数据批次来构建覆盖所有类别的对比对，然而，在类别不平衡的数据背景下，这一要求很难满足。为了克服这个障碍，我们提出了一种新的概率对比 (ProCo)学习算法，该算法估计特征空间中每个类的样本的数据分布，并据此对对比对进行采样。
TPAMI 2024 | 3D 点云的标签高效深度学习综述
小白学视觉
04-19 24
在过去十年中，深度神经网络在点云学习方面取得了显著进展。然而，收集大规模精确标注的点云数据极为费力且成本高昂，这限制了现有点云数据集的可扩展性，也成为在各种任务和应用中有效探索点云数据的瓶颈。标签高效学习通过大幅减少标注工作来实现深度网络的有效训练，为解决这一问题提供了一种有前景的方案。本文首次对3D点云的标签高效学习进行了全面综述。作者探讨了这个新兴研究领域中的三个关键问题：i) 标签高效学习在点云处理中的重要性和紧迫性；ii) 它所涵盖的子领域；iii) 在该领域取得的进展。
TPAMI 2024 | 开放词汇检测与分割综述：过去、现在与未来
小白学视觉
03-23 48
作为最基本的场景理解任务，目标检测和分割在深度学习时代取得了巨大的进展。由于手动标注成本高昂，现有数据集中的标注类别通常是小规模且预定义的，即最先进的完全监督检测器和分割器无法泛化到封闭词汇表之外。为了解决这一限制，近年来，社区对开放词汇检测（OVD）和分割（OVS）的关注日益增加。所谓“开放词汇”，指的是模型能够对预定义类别之外的对象进行分类。在本综述中，作者对OVD和OVS的最新发展进行了全面回顾。首先提出了一个分类法来组织不同的任务和方法。
TPAMI 2024 | 基于奖励机制的半监督跨摄像头视图中罕见身份的再识别研究
小白学视觉
09-26 434
半监督行人重识别（Re-ID）是在学习跨摄像头视图匹配行人图像时减轻注释成本的重要方法。大多数现有工作假设训练数据包含大量跨摄像头视图的身份。然而，这一假设在许多实际应用中并不成立，尤其是在图像捕获在非相邻场景以用于更广泛区域的Re-ID时，这些身份很少跨摄像头视图。在这项工作中，我们在宽松的假设下进行半监督Re-ID，即身份很少跨摄像头视图，这在现有方法中仍然在很大程度上被忽视。
在深度学习中，什么是线性插值（linear interpolation）？
最新发布
weixin_44649780的博客
04-30 405
线性插值是寻找两个点之间中间值的最基础方法之一，广泛应用于：数值计算计算机图形学机器学习和深度学习它的标准公式是：x0,x1∈Rn：两个向量或标量t∈[0,1]：插值系数（0 表示完全靠近 x0，1 表示完全靠近 x1​）它对应的是两个点之间的一条线段轨迹。线性插值就是“在两个已知点之间，按一定比例找到中间点”的方法，无论是图像、特征、模型参数，它都可以用来“平滑地过渡”。📢 想要了解更多内容，可在VX小程序搜索🔍AI Pulse,获取更多最新内容。
远程深度学习新环境配置流程
weixin_45668967的博客
04-30 246
下载并安装适合你系统的 Miniconda 版本。
Transformer：颠覆深度学习的架构革命与技术演进
源滚滚编程
04-30 860
2017年，谷歌团队在论文《Attention Is All You Need》中提出的Transformer架构，彻底改变了人工智能对序列数据的处理范式。通过这种机制，模型能够自动识别并强化相关位置的语义关联，例如在句子“The cat sat on the mat”中，“cat”与“sat”的关联权重显著高于其他无关词汇。其核心思想是：每个位置的输入向量通过**查询（Query）、键（Key）、值（Value）**三个矩阵变换，动态计算与其他位置的关联权重。，实现了全局上下文感知与并行计算的完美平衡。
【现代深度学习技术】循环神经网络07：通过时间反向传播
Morse_Chen的博客
04-28 1314
本文讲解循环神经网络的通过时间反向传播。RNN梯度分析及BPTT是理解其原理的关键，通过深入分析RNN的梯度计算过程，我们可以更好地理解梯度爆炸和梯度消失的问题，BPTT可有效训练RNN捕捉序列依赖。
基于Python Flask的深度学习电影评论情感分析可视化系统（2.0升级版，附源码）
IT徐师兄
04-27 1051
基于Python Flask的深度学习电影评论情感分析可视化系统（2.0升级版），集成了Flask框架与先进的word2vec向量模型，能够自动解析影评文本的情感倾向，精准评估电影的好评与差评比例，并通过直观的可视化界面展示分析结果。该项目通过大数据技术分析海量影评，量化好评与差评的分布，为电影评论提供全面的汇总评价分析。
一种用于从视网膜图像中识别疾病的 BERT 式自监督学习 CNN
hao_wujing的专栏
04-28 709
在我们的网络中，输出图像的大小为(224,224)，下采样率为32，使我们的蒙版大小为(7,7).我们进一步使用从预训练模块中学到的特征图进行分类研究。此外，与传统的 CNN 相比，ViT 在图像处理中表现出较少的定位能力，因为它们的机制主要针对图像的块级，而不是直接关注单个像素。].我们在 CNN 中观察到的优势，以及预训练对自我监督学习的显着好处，以及 ViT 的潜在缺点，都激发了进一步的思考：是否有可能将性能良好的 CNN 与 BERT 风格的生成式自我监督学习相结合进行预训练，以结合两者的优势？
长短期记忆网络（LSTM）
weixin_73557167的博客
04-29 1535
LSTM
深度学习---pytorch搭建深度学习模型（附带图片五分类实例）
2301_80079642的博客
04-29 906
数据增强：通过随机翻转、旋转提升模型泛化能力。模型结构：使用卷积层提取特征，全连接层进行分类。设备管理：自动检测GPU加速训练。训练技巧：Dropout防止过拟合，Adam优化器自适应学习率。模型保存：保存验证集上表现最好的模型。
RNN——循环神经网络
2403_87204666的博客
04-26 707
跨时间步跳跃连接（如 ht=ht−1+f(xt,ht−1)ht​=ht−1​+f(xt​,ht−1​)），直接传递梯度。核心机制：通过隐藏状态（hidden State）传递历史信息，每个时间步的输入包含当前数据和前一步的隐藏状态。多输入，多输出（如机器翻译）： 每个时间步接收输入并生成输出（如逐词翻译）。：若权重矩阵特征值 ∣λ∣<1∣λ∣<1，梯度指数级衰减，深层参数无法更新。：若 ∣λ∣>1∣λ∣>1，梯度指数级增长，导致数值溢出或模型震荡。：合并细胞状态和隐藏状态，参数更少。
【神经网络与深度学习】五折交叉验证（5-Fold Cross-Validation）
weixin_50512050的博客
04-28 417
五折交叉验证（5-Fold Cross-Validation）是一种广泛应用于机器学习模型性能评估的技术，通过多次实验确保模型的评估结果更加稳定、可靠，同时最大限度地利用有限的数据资源。它将数据分成若干子集，交替作为训练集和测试集，从而减少因数据划分偶然性带来的偏差，并为模型的选择和优化提供科学依据。本文将详细探讨五折交叉验证的具体流程、目的及其实际应用场景，为理解和实施这一方法提供全面的参考。
tpami2024图像去噪
03-29
### TPAMI 2024 年关于图像去噪的研究概述 在TPAMI 2024年的研究中，有一篇重要的论文提出了无需去噪的含噪图像表示方法[^1]。这项工作旨在解决具有挑战性的噪声退化问题，并提出了一种新的时频判别图像表示技术。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小白学视觉

您的赞赏是我们坚持下去的动力~

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值