一篇2019年关于增量学习Incremental Learning的论文。
论文的应用场景是大规模(Class)数据集的增量学习。文中提及现有的增量学习方法均存在两个致命问题:
- the data imbalance between the old and new classes(新、旧类的数据不平衡)
- the increasing number of visually similar classes(数据集中相似的类数量增加)
针对这两个问题,作者发现整个模型的最后一个全连接层对新的数据类别有严重的偏向性,这种偏向性可以由一个线性模型纠正。
使用了作者提出的偏向纠正的方法,整个模型的性能随着数据集规模增大,下降率明显降低,如下图所示。
该偏向纠正方法的流程图如下图所示: