FEW-SHOT CLASS INCREMENTAL LEARNING

最新推荐文章于 2025-06-28 00:01:36 发布
原创 最新推荐文章于 2025-06-28 00:01:36 发布 · 289 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #神经网络

FSCIL（Few-shotClass-incrementalLearning）研究了神经网络如何在新增类别时有效学习，特别是在仅使用少量样本的情况下。文章指出，在每个session中进行优化时，存在一种名为NeuralCollapse的现象，这可能影响模型的泛化能力并提出相应的解决策略。

Few-shot class-incremental learning (FSCIL)
在这里插入图片描述
在这里插入图片描述
Neural Collaps有以下四个性质：
在这里插入图片描述

在这里插入图片描述
在第t个session的时候优化
在这里插入图片描述
其中，
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

欧阳AI锋
关注
[论文分享] Self-Promoted Prototype Refinement for Few-Shot Class-Incremental Learning
qq_40825479的博客
12-29 3132
这篇论文是CVPR’ 2021的一篇Few-Shot增量学习(FSCIL)文章 No. content PAPER {CVPR’ 2021} Self-Promoted Prototype Refinement for Few-Shot Class-Incremental Learning URL https://openaccess.thecvf.com/content/CVPR2021/papers/Zhu_Self-Promoted_Prototype_Refinement_for
一文读懂小样本类增量学习(Few-shot Class Increnmental Learning)
qq_63905452的博客
11-06 9007
本人对小样本类增量学习的一些浅薄认知
【连续学习之综述】2024年Neural Networks期刊论文：A survey on few-shot class-incremental learning
BetterBench的博客
06-27 3360
关于少量样本增量学习（Few-shot Class-Incremental Learning, FSCIL）的综述。FSCIL面临的主要挑战包括灾难性遗忘（Catastrophic Forgetting）和过拟合（Overfitting），这些问题严重影响了模型性能。研究FSCIL有助于克服深度学习模型在数据量和获取时间上的限制，提高机器学习模型的实用性和适应性。从理论角度，将FSCIL领域分为五个子类别，包括传统机器学习方法、基于元学习的方法、基于特征和特征空间的方法、重放方法和动态网络结构方法。定义了
Few-Shot Class-Incremental Learning from anOpen-Set Perspective论文笔记
weixin_47269893的博客
03-27 1041
一个Few-Shot Class-Incremental Learning (FSCIL)模型，需要在所有类上表现良好，无论它们的表示顺序如何或是否缺乏数据。它还需要对需要对较少的数据 (one-shot scenario) 具有鲁棒性，并且容易适应该领域出现的新任务目前的SOTA方法仅使用class-wise average accuracy类平均精度来评价模型的性能，无法评估是否由于类不平衡和数据不平衡存在prediction bias预测偏差；
论文阅读笔记《Few-Shot Class-Incremental Learning》
深视
06-19 8975
核心思想   本文提出一种用于解决小样本类别增量学习（few-shot class-incremental learning, FSCIL）的算法（TOPIC）。首先解释一下什么是小样本类别增量学习，模型首先在一个大规模的基础数据集D(1)D^{(1)}D(1)上进行训练，然后会不断增加新的数据集D(t),t>1D^{(t)}, t>1D(t),t>1，且数据集中的类别与基础数据集中的不同，样本数量也较少，在学习新的样本过程中，还不能忘记之前学习过的样本。这一过程面临两个难题：灾难性遗忘和
Raki的读paper小记：SUBSPACE REGULARIZERS FOR FEW-SHOT CLASS INCREMENTAL LEARNING
Raki_J的博客
02-25 1106
Abstract & Introduction & Related Work 研究任务 已有方法和相关工作 Few-shot and incremental learning Learning class representations Learning with side information from language 面临挑战 创新思路 这种方法的关键是一个新的子空间正则化方案系列，它鼓励新类的权重向量接近于现有类的权重所跨越的子空间，可以直接扩展以纳入关于新类的额外背景信息
论文精读-Enhancing Few-Shot Class-Incremental Learningvia Training-Free Bi-Level Modality Calibration
m0_62653520的博客
06-28 878
本文核心就是提出一种高效的免训练双层级模态校准策略。首先分别在视觉和文本模态内优化分类器估计。然后融合视觉和文本模态的知识（结合图像特征与LLM生成的类别描述） 通过集成协方差度量和最近邻度量的推理策略，进一步提升了预测精度我应该会先写简单的实验，再写困难的方法分析 我觉得对于模型架构的形成代码大家应该都知道了 如果不清楚可以看我之前写的博客 十分钟学会Pytroch系列文章 所以可能我后面写对于代码不会有那么多 我还没有去复现。
【Few-Shot Incremental Learning】Semantics-Driven Generative Replay in ACM MM 2022 个人理解
研究兴趣：开放集识别、开放世界识别、新类发现、增量学习、少样本学习
12-26 1136
Semantics-Driven Generative Replay for Few-Shot Class Incremental Learning: 该工作重心在使GAN能够在少样本场景下学习上，引入语义映射模块是主要贡献，灾难性遗忘通过原型扩充、保留和蒸馏损失避免。
【Few-Shot Incremental Learning】ALICE in ECCV 2022 个人理解
研究兴趣：开放集识别、开放世界识别、新类发现、增量学习、少样本学习
12-15 1493
Few-Shot Class-Incremental Learning from an Open-Set Perspective: 利用初始样本充足的训练数据训练一个强大的特征提取器，根据余弦相似度以最近类均值（Nearest Class Mean, NCM）规则进行分类。
Paper reading:Few-Shot Class Incremental Learning Leveraging Self-Supervised. CVPR2022workshop
家家的专栏
06-26 778
本文研究利用自我监督学习的进步来纠正过度适应和灾难性遗忘，进而提高性能。首先探索在监督和自监督模型中学习到的特征串联基础上，训练轻量级特征融合+分类器。利用基类数据中的样本来学习监督模型，其中基类中大量的数据可以得到利用。利用大量未标注数据进行自监督模型的学习。利用融合后的特征来学习分类器，会取得比较好的性能。此外，文中还利用一个高斯生成器来减少小样本类增量学习过程中的灾难性遗忘问题...
Incremental Few-Shot Learning for Pedestrian Attribute Recognition.pdf
03-15
Incremental Few-Shot Learning for Pedestrian Attribute Recognition
FewShot-CVPR:通过预测激活参数来进行少量图像识别
05-11
通过预测激活参数来进行少量图像识别 通过预测激活参数来实现一次快速学习的火炬实施： ，，， 在2018年计算机视觉与模式识别会议（CVPR）上 @inproceedings{Act2Param, title = {Few-Shot Image Recognition by Predicting Parameters from Activations}, author = {Siyuan Qiao and Chenxi Liu and Wei Shen and Alan L. Yuille}, booktitle = {CVPR}, year = {2018} } 介绍 我们的方法的灵感来自于对图像进行最终分类的最终完全连接层之前的激活之间的紧密关系以及该完全连接层的参数。 我们将t-SNE结果绘制在对ImageNet的子集进行预训练的50层ResNet的全连接层之
【增量学习】2022 KDD Geometer: Graph Few-Shot Class-Incremental Learning via Prototype Representation
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
06-08 738
在许多实际场景中，图随着新节点和边的出现而演变。由于新出现或缺乏探索，新类别逐渐出现，并且很少有标记。在本文中，专注于这个具有挑战性但实用的图少样本类增量学习（GFSCIL）问题，并提出了GEOMETER。通过找到最近的类原型来预测节点的标签，通过观察几何接近度、均匀性和可分离性来学习和调整基于注意力的原型。进一步引入了教师-学生知识蒸馏和有偏抽样，以分别缓解灾难性遗忘和不平衡标签问题。...
FSCIL论文详解 Few-Shot Class-Incremental Learning， CVPR2020
祥瑞的技术博客
04-26 7232
CVPR2020 论文地址： https://arxiv.org/pdf/2004.10956.pdf CVPR2020 本篇，FSCIL，西交大提出的。将NG网络运用到增量学习之中。 ECCV2020，TPCIL，也是西交大的同一个人发的，Topology Preserving Class-Incremental learning，同样的框架，即CNN+拓扑结构，部分内容换了一个写法。 CVPR2021与本篇非常类似，Few-Shot Incremental Learning with Cont
阅读笔记Y CVPR2021 Self-Promoted Prototype Refinement for Few-Shot Class-Incremental Learning FSCIL自提高原型提
weixin_47340312的博客
07-18 698
fewshot文章阅读
【Few-Shot Incremental Learning】SAVC in CVPR 2023 个人理解
研究兴趣：开放集识别、开放世界识别、新类发现、增量学习、少样本学习
12-21 2294
Learning with Fantasy: Semantic-Aware Virtual Contrastive Constraint for Few-Shot Class-Incremental Learning in CVPR 2023的重心在特征提取上，通过Fantasy Set进行数据增强和采用MoCo的训练策略进行对比学习得到一个强大的特征提取器是主要贡献。
Few Shot Incremental Learning with Continually Evolved Classifiers论文详解 基于持续进化分类器的小样本类别增量学习CVPR2021
祥瑞的技术博客
05-10 3764
Few Shot Incremental Learning with Continually Evolved Classifiers CVPR2021，由新加坡南洋理工大学 本文利用Graph即图模型，将拓扑结构与增量模型向结合，从而取得不错的效果。 类似论文，均是基于双阶段的增量模型，一个是特征提取模块，另一个是分类器模块。 对于Rehearsal的方法而言，特征提取模块可能一起更新。 对于本文的方法而言，特征提取模块一旦初始训练好，就固定下来，只更新分类器模块。本文的分类器模块与GAT(.
Few-Shot Class-Incremental Learning via Relation Knowledge Distillation 閱讀筆記
lcchu的博客
12-13 935
小樣本增量學習 利用圖的概念去設計蒸餾知識方法 相較以往的點對點比較，考量點的關聯性(角度)擁有更好的彈性
ACL2022 | 类增量学习的少样本命名实体识别
zenRRan的博客
08-31 1488
每天给你送来NLP技术干货！©作者 | 回亭风单位 | 北京邮电大学研究方向 | 自然语言理解来自 | PaperWeekly论文标题：Few-Shot Class-Incremental Learning for Named Entity Recognition收录会议：ACL 2022论文链接：https://aclanthology.org/2022.acl-long.43Abstract之...
Learning with Fantasy: Semantic-Aware Virtual Contrastive Constraint for Few-Shot Class-Incremental Learning复现这篇论文
最新发布
09-25
复现《Learning with Fantasy: Semantic-Aware Virtual Contrastive Constraint for Few-Shot Class-Incremental Learning》这篇论文可按以下步骤进行： ### 1. 准备工作 - **获取代码**：该论文的代码地址为https://github.com/zysong0113/SAVC ，可从该地址下载代码到本地 [^2]。 - **明确任务**：论文主要解决少样本类增量学习（Few-shot class-incremental learning，FSCIL）问题，即在有限样本下持续学习新类别且不遗忘旧类别的分类任务 [^3]。 ### 2. 数据处理 - **初始数据处理**：利用初始样本充足的训练数据训练特征提取器。对初始训练样本进行数据增强（增强次数和顺序确定）以扩充初始数据集。例如，可采用特定的图像旋转、翻转等操作，且后续所有增强都按此方式进行 [^4]。 - **增量数据处理**：计算增量训练数据（少样本）中新增类别的原型，通过数据增强和特征提取后得到特征的均值来确定 [^4]。 ### 3. 模型训练 - **特征提取器训练**：采用MoCo的学习策略构建对比损失，结合标准交叉熵分类损失更新模型。扩充版的初始训练数据集经训练好的特征提取器（训练好后冻结）输出特征，并据此计算各初始类别不同增强方式下的原型（特征均值） [^4]。 - **联合优化**：论文采用分类对比任务联合优化框架，同时还涉及每个增量会话的微调更新 [^2]。 ### 4. 模型测试 - **相似度计算与分类**：对测试样本进行数据增强，将增强后的测试样本输入特征提取器得到特征，并对测试特征和所有原型进行标准化。计算测试特征与各原型的平均相似度，将测试样本分类为平均相似度最高的类 [^4]。 ### 代码示例 由于不清楚代码仓库中的具体实现，以下是一个简单示意代码说明数据增强和原型计算的过程： ```python import torch import torchvision.transforms as transforms # 数据增强示例 transform = transforms.Compose([ transforms.RandomRotation(10), transforms.RandomHorizontalFlip() ]) # 假设初始训练数据 initial_data = torch.randn(100, 3, 32, 32) # 100个样本，3通道，32x32图像 augmented_data = [] for sample in initial_data: augmented_sample = transform(sample) augmented_data.append(augmented_sample) augmented_data = torch.stack(augmented_data) # 计算原型示例 def calculate_prototype(data): return torch.mean(data, dim=0) prototype = calculate_prototype(augmented_data) ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值