【零样本知识蒸馏】（九）ICCV 2021：Feature Refinement for Generalized Zero-Shot Learning

最新推荐文章于 2024-06-30 01:59:02 发布
最新推荐文章于 2024-06-30 01:59:02 发布
阅读量939 收藏 3
点赞数
分类专栏： 深度学习-模型压缩（蒸馏剪枝量化） 文章标签： 深度学习 机器学习 人工智能 零样本学习 迁移学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44936889/article/details/120024629
版权
本文提出FREE方法解决GZSL中由跨数据集偏差导致的视觉特征质量问题。通过特征细化模块（FR）和自适应边缘中心损失（SAMC-loss），改善预训练CNN在GZSL任务上的性能。FREE结合语义周期一致性损失，优化可见与不可见类别的识别效果。
摘要由CSDN通过智能技术生成

【零样本知识蒸馏】（九）ICCV 2021：Feature Refinement for Generalized Zero-Shot Learning

论文地址：

https://arxiv.org/abs/2107.13807

代码地址：

https://github.com/shiming-chen/FREE

主要问题：

广义零镜头学习（GZSL）取得了重大进展，许多努力致力于克服视觉-语义领域差距和看不见的偏差的问题，然而大多数现有的方法直接使用仅在 ImageNet 上训练的特征提取模型，而忽略了ImageNet和GZSL基准之间的跨数据集偏差，这种偏差不可避免地会导致GZSL任务的视觉特征质量较差，这可能会限制可见类和看不见类的识别性能

主要思路：

这篇文章提出了一种简单而有效的GZSL方法，称为广义零镜头学习（FREE）来解决上述问题

FREE使用了一个特征细化（FR）模块，该模块将语义→视觉映射集成到一个统一的生成模型中，以细化可见的和看不见的类样本的视觉特征

此外作者还提出了一种自适应边缘中心损失（SA

了解本专栏 订阅专栏 解锁全文 超级会员免费看
BIT可达鸭
关注
专栏目录
订阅专栏
【零样本知识蒸馏】（一）Zero-shot Adversarial Quantization
梁瑛平的博客
08-18 925
作者提出了一个零样本对抗性量化（ZAQ）框架，促进了从一个全精度模型到其量化模型有效的差异估计和知识转移，该算法以驱动生成器合成信息和不同的数据实例，以对抗性学习的方式优化量化模型
【知识蒸馏】2021年最新知识蒸馏综述和论文总结
梁瑛平的博客
08-11 1259
【知识蒸馏】2021最新知识蒸馏综述和论文总结简介：按照“知识”的定义来分类：按照教师模型来分类：按照“数据”有无来分类： 简介： 按照“知识”的定义来分类： 按照教师模型来分类： 按照“数据”有无来分类： ...
精读FREE: Feature Refinement for Generalized Zero-Shot Learning
qq_42578970的博客
12-14 3226
作者提出，目前的零样本学习(Generalized zero-shot learning, GZSL)方法，在特征提取问题上都是使用的在ImageNet数据集上预训练的各种模型，但由于没处理ImageNet和GZSL跨数据集之间的偏差(cross-dataset bias)，导致模型在应对zero-shot任务和处理未见过的类时提取的特征不佳。作者提出了特征改良模块(feature refinement, FR)，来改善一个本质为生成器的映射所提取出的特征。
FREE:Feature Refinement for Generalized Zero-Shot Learning 中文版
分享计算机视觉，C++，网络摄像头研发，音视频开发，嵌入式等知识。
01-26 266
广义零样本学习（GZSL）已经取得了显著的进展，许多工作致力于克服视觉-语义领域差距和已知-未知偏差的问题。在本文中，我们提出了一种简单而有效的GZSL方法，称为广义零样本学习的特征细化（FREE），以解决上述问题。FREE采用了一个特征细化（FR）模块，将语义→视觉映射纳入统一的生成模型，以细化已知和未知类别样本的视觉特征。此外，我们提出了一种自适应边界中心损失（SAMC-loss），与语义循环一致性损失合作，引导FR学习与类别和语义相关的表示，并在FR中连接特征以提取完全细化的特征。
【论文笔记_知识蒸馏_2021】KNOWLEDGE DISTILLATION VIA SOFTMAX REGRESSION
qq_45128278的博客
04-13 3259
代码地址:https://github.com/jingyang2017/KD_SRRL 摘要 本文通过知识提炼解决了模型压缩的问题。我们主张采用一种优化学生网络倒数第二层的输出特征的方法，因此与表征学习直接相关。为此，我们首先提出了一种直接的特征匹配方法，它只关注优化学生的倒数第二层。其次，更重要的是，由于特征匹配没有考虑到手头的分类问题，我们提出了第二种方法，将表征学习和分类解耦，利用教师的预训练分类器来训练学生的倒数第二层特征。特别是，对于相同的输入图像，我们希望教师和学生的特征在通过教师的分类器时.
Contrastive Embedding for Generalized Zero-Shot Learning＜2021CVPR阅读笔记＞
qq_46025283的博客
10-08 1108
论文出处：Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2021 背景 这篇论文出自2021年CVPR，这篇论文在传统ZSL的基础上进行了改进，个人觉得还是有很多值得学习的地方。 首先，归纳总结一下，传统的ZSL的做法是学习一个语义嵌入函数，即将视觉特征映射到语义描述空间。然后，在改语义描述空间上，将嵌入的数据点与给定的类及层次语义...
【零样本学习】Feature Generating Networks for Zero-Shot Learning
x124612的博客
09-23 2290
Abstract 由于seen class和unseen class训练数据的极度不平衡，现有的ZSL方法在GZSL任务上性能很差。我们提出基于GAN框架，利用语义信息来生成CNN特征。我们的方法利用Wasserstein GAN和分类损失，生成判别性强的CNN特征，来训练分类器（softmax classifiers or multimodal embedding method）。 Contri...
零样本学习 (Zero-Shot Learning)：突破传统机器学习的界限
最新发布
AI天才研究院
06-30 178
在传统的机器学习范式中，模型的训练和测试通常基于同一分布的数据集。这种方法要求训练数据包含所有可能的类别，并且每个类别都有足够多的样本。然而，在现实世界中，我们经常面临需要识别或分类全新类别的情况，这些类别在训练数据中可能完全没有出现过。这就引出了一个关键问题：如何使机器学习模型能够识别和理解它从未见过的类别？零样本学习（Zero-Shot Learning，简称ZSL）正是为了解决这一挑战而提出的。它旨在训练一个能够识别未知类别的模型，即使在训练过程中没有见过这些类别的任何样本。
Relative-Attributes-Zero-Shot-Learning:用于图像分类和零镜头学习的视觉相对属性的Python实现
05-13
用于图像分类和零镜头学习的视觉相对属性的Python实现 描述 此实现引用论文“ Relative Attributes, D. Parikh and K. Grauman, International Conference on Computer Vision (ICCV), 2011 。 作者给出的原始代码在...
【CVPR 2021】Knowledge Review：知识蒸馏新解法
梁瑛平的博客
07-18 1379
【CVPR 2021】Knowledge Review：知识蒸馏新解法论文地址：主要问题：主要思路：符号假设：具体实现：实验结果：关注我的公众号：联系作者： 论文地址： https://jiaya.me/papers/kdreview_cvpr21.pdf 主要问题： 目前大部分关于KD的方法都是基于相同层或者相同Block之间的知识迁移。但是Teacher往往深层表示抽象的语义信息，底层表示简单的知识的信息。 因此在Student训练初期，直接学习Teacher的深层抽象语义信息，显然是非常困难。 由此作
local-feature-refinement:局部特征几何的多视图优化
05-06
局部特征几何的多视图优化 该存储库包含以下文件的实现： "Multi-View Optimization of Local Feature Geometry". M. Dusmanu, J.L. Schönberger, and M. Pollefeys. European Conference on Computer Vision 2020 (Oral). 要求 C ++ 在继续之前，应将安装为库。 请参考官方网站上的安装说明。 对于文章中，我们已经使用了dev COLMAP在提交分支f4eaade （你可以运行git checkout f4eaade编译COLMAP使用相同版本之前）。 我们建议通过运行COLMAP_PATH=path_to_colmap_executable_folder将环境变量设置到colmap文件夹。 唯一的附加要求是protobuf ，它可以在Ubu
【CVPR 2021】基于样本间关系的知识蒸馏：Complementary Relation Contrastive Distillation
梁瑛平的博客
07-18 1621
【CVPR 2021】基于样本间关系的知识蒸馏：Complementary Relation Contrastive Distillation论文地址：主要问题：主要思路：算法优点：具体实现：基本符号：优化目标：优化目标的下限： 论文地址： https://arxiv.org/abs/2103.16367 主要问题： 之前的知识蒸馏学习的是每个样本单独的特征距离（即让teacher和student模型对每个样本的特征近似），但是作者考虑不同样本间的特征距离也是重要的结构化信息（如下图），因此提出了CRCD蒸
Semantics Disentangling for Generalized Zero-Shot Learning解读
分享计算机视觉，C++，网络摄像头研发，音视频开发，嵌入式等知识。
11-13 247
其实除了VAE自监督外，引入语义属性来约束生成特征的质量。感觉解纠缠这个说法有点扯淡。
R3Det: Refined Single-Stage Detector with Feature Refinementfor Rotating Object论文学习
w_study_ty的博客
07-09 1881
该论文为one-stage目标检测。是以RetinaNet为基础，增加了FRM（feature refinement module）以及设计了一个可导的近似偏斜损失函数（approximate SkewIoU），目的为了解决目标检测的三大挑战：1.大纵横比目标，2.密集目标的图像，3.任意旋转目标的图像。针对不同的场景做出相对应的解决方案。 网络结构 该论文是在RetinaNet的基础上进行增加新的模块和改变损失函数设计而成的，每层FPN连接着分类子网（class subnet）和边界盒回归子网（b
《R3Det：Refined Single-Stage Detector with Feature Refinement for Rotating Object》论文笔记
m_buddy的博客
08-23 1399
参考代码： TF实现版本：R3Det_Tensorflow Pytorch实现版本：r3det-on-mmdetection 旋转检测算法总结：RotationDetection 1. 概述 导读：这篇文章提出了一种级联优化的旋转目标检测算法。这篇文章的检测算法可以看作是单阶段的（类似RefineDet）检测算法。算法的第一级回归用于生成带旋转角度的roi proposal（也可以称之为带旋转角度的anchor），在之后的优化级中去迭代优化上一级生成的roi proposal。需要注意的是文章的算法在
Feature refinement 的阅读笔记
pzb19841116的专栏
02-03 795
利用双流Inception网络作为骨架进行表情共享特征学习，利用带有注意力机制的表情提议模块进行表情特异性特征学习，利用融合的表情细化特征进行标签预测。在未来的研究中，我们将考虑一种端到端的MER方法，寻找更有效的方法来丰富微表情样本，并从大规模数据库中使用迁移学习来为MER带来好处。与MER中现有的深度学习方法侧重于学习表情共享特征不同，我们的方法旨在通过表情特征学习和融合来学习一组表情精化特征。本文的贡献是，提出了一个新颖的特征提纯方法，一个表达能力较强的特征学习与融合的方法，用于微表情识别。
ICLR2021自蒸馏方法SEED：显著提升小模型性能
qq_21031977的博客
03-11 966
以下文章来源于公众号 “机器学习算法工程师”机器学习算法工程师 Abstract： 该文是亚利桑那州立大学&微软联合提出的一种自监督蒸馏表达学习方案，已被ICLR2021接收为Poster。针对现有对比自监督学习方案在小模型上表现性能差的问题，提出将知识蒸馏的思想嵌入到自监督学习框架得到了本文的自监督蒸馏学习。相比常规自监督学习方案，所提方案可以显著的提升轻量型模型的性能，同时具有极好的泛化性能。 本文主要聚焦于小模型(即轻量型模型)的自监督学习问题，作者通过实证发现：对比自监督学习方法在大模型训
[CVPR 2019] Adaptive Confidence Smoothing for Generalized Zero-Shot Learning
一亩高粱
07-18 489
11
Augmented semantic feature based generative network for generalized zero-shot learning
qq_43215318的博客
07-07 689
Accepted 14 April 2021（Neural Networks） 零样本学习 (ZSL) 旨在在没有可用于对象类的训练数据时识别图像中的对象。在广义零样本学习（GZSL）设置下，测试对象属于可见或不可见类别。在最近的许多研究中，零样本学习是通过利用生成网络从特定类别的语义特征中合成看不见的类别的视觉特征来执行的。用户定义的语义信息不完整，缺乏可辨别性。然而，大多数生成方法直接使用用户定义的语义信息作为生成模型的约束条件，这使得模型合成的视觉特征缺乏多样性和可分离性。在本文中，我们提出了一种利用
ICCV 2021：广义无源领域自适应提升模型跨域性能
在2021年的国际计算机视觉会议（ICCV）上，一篇名为《Generalized Source-free Domain Adaptation》的重要论文引起了广泛关注。该论文针对计算机视觉领域中的一个关键挑战——领域自适应（DA），特别是在无源域适应...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

BIT可达鸭

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值