增量学习/Incremental learning

简介

类别增量学习(Class-Incremental Learning)的前世今生、开源工具包

下图展示了一个形象的例子，

• 训练阶段
  模型依次在task1、2、3、4、5上进行训练。

• 在预测阶段
  ----- Task-IL会告知task-ID，模型根据task-ID将数据分为第一类或者第二类。例如当告知task-ID为1时，模型只需要在0和1之间进行辨别。
  ----- Domain-IL无法获得task-ID, 但是它需要判断输入的标签是属于集合(0,2,4,6,8)还是(1,3,5,7,9).
  ----- Class-IL需要给出具体的数字标签，即从0-9之间选择一个进行输出。

增量学习二十年发展如何？用一篇综述看懂增量学习

增量学习方法的种类有很多种划分方式，本文将其划分为以下三种范式：正则化(regularization)、回放(replay)和参数隔离(parameter isolation)。其中基于正则化和回放的增量学习范式受到的关注更多，也更接近增量学习的真实目标，参数隔离范式需要引入较多的参数和计算量，因此通常只能用于较简单的任务增量学习。

最新综述 | 万字长文带你入门增量学习
半监督增量学习、自监督增量学习型、小样本增量学习。

Class-incremental learning: survey and performance evaluation on image classification 2022
Deep Class-Incremental Learning: A Survey
Towards Label-Efficient Incremental Learning: A Survey
A comprehensive study of class incremental learning algorithms for visual tasks 2020

其他值得一看的论文

• 论文分享：Rainbow Memory: Continual Learning with a Memory of Diverse Samples

• DER: Dynamically Expandable Representation for Class Incremental Learning
  基于动态特征结构的方法已经被广泛应用于解决在Task-IL中，DER是首个将动态特征结构方法应用于Class-IL的场景下，并取得优异性能的尝试。
  核心摘要
  DER中说明，传统的方法会陷入稳定性-可塑性困境 (stability-plasticity dilemma): 对于一个单骨架的模型，如果不施加任何限制，给它足够的可塑性，那么它在旧类样本上的表现就会产生大幅度降低；但是如果施加过多的限制则又会导致模型没有足够的可塑性来学习新的任务。而DER则实现了相较于传统方法更好的稳定性可塑性的trade-off。DER保留并冻结旧的特征提取器来保留旧的知识，同时创建一个新的可训练的特征提取使模形具有足够的可塑性来学习新的任务。
  

小样本类增量学习

FSCIL 小样本类增量学习
NeurIPS 2021 | 通过寻找平坦最小值，克服小样本增量学习中的灾难性遗忘
Few-Shot Incremental Learning with Continually Evolved Classifiers 小样本增量学习
Forward Compatible Few-Shot Class-Incremental Learning—有源码
Subspace Regularizers for Few-Shot Class Incremental Learning (ICLR2022) —有源码

开源代码与资料

Awesome Incremental Learning / Lifelong learning

PyCIL: A Python Toolbox for Class-Incremental Learning
online-continual-learning —Online Continual Learning in Image Classification: An Empirical Survey 在gitee的源码