增量学习-Large Scale Incremental Learning论文笔记
一、需要解决的问题作者首先提出了一个假设,随着增量步骤的不断增多,类别数会不断增加。最后一层全连接层存在偏差,会使预测的分类数据更加偏向于新类。验证实验第一、将cifar-100的数据分为五个批次,每个批次20个类,使用example+新20类进行训练对于最后一个增量步骤,通过混淆矩阵,我们可以看出:模型对于新类的预测值很高,基本偏向于新类。理想情况应该符合下图:该图是先进行训练,再冻结特征提取层,然后使用全部数据包含未使用的旧类样本去训练完全连接层得到的上界。第二、冻.
原创
2021-12-01 21:40:58 ·
519 阅读 ·
1 评论