Learning Without Forgetting 笔记及实现

已于 2022-03-14 20:23:10 修改
阅读量8.3k 收藏 49
点赞数 15
分类专栏： AI论文解读 文章标签： 深度学习 机器学习 神经网络 迁移学习
于 2022-03-14 20:18:12 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/juggle_gap_horse/article/details/123480492
版权
LWF是一种经典的持续学习方法，它通过知识蒸馏防止灾难性遗忘。文章介绍了LWF的基本原理，与其他方法的比较，算法流程，并提供了基于PyTorch的简单实现。LWF在不使用旧任务数据的情况下，通过旧网络指导的输出来平衡新任务的训练，以在新旧任务中取得良好性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Learning Without Forgetting

LWF简介

LWF是结合知识蒸馏(KD)避免灾难性遗忘的经典持续学习方法。本质上是通过旧网络指导的输出对在新任务训练的网络参数进行平衡，从而得到在新旧任务网络上都表现较好的性能。

方法对比

compare
a.从头开始训练
b.微调：在旧任务的网络基础上以较小的学习率学习新任务 另一种意义上的initialization？
c.联合训练：使用所有任务的数据一起训练
d.特征提取：将旧任务的参数固定作为特征提取器，添加新的层训练新任务

LWF算法流程

algorithm
θ s \theta_s θs​为在old task上pretrained网络CNN的共享参数
θ o \theta_o θo​为每个old task的特定参数（可理解为网络的i最后的classifier head）
( X n , Y n ) (X_n,Y_n) (Xn​,Yn​) new task的数据

初始化：
1.将新数据 ( X n , Y n ) (X_n,Y_n) (Xn​,Yn​) 输入在旧任务pretrained网络中得到一组respond Y o Y_o Yo​
2.将new task对应的classifier head参数随机初始化（加快训练的常见手段）

训练：
Y o ^ \hat{Y_o} Yo​^​ 为待训练网络CNN 对应old task的输出，最开始 θ o \theta_o θo​= θ o ^ \hat{\theta_o} θo​^​ , θ s \theta_s θs​= θ s ^ \hat{\theta_s} θs​^​
Y n ^ \hat{Y_n} Yn​^​ 为待训练网络对应new task的输出，最开始 θ n \theta_n θn​= θ n ^ \hat{\theta_n} θn​^​ , θ s \theta_s θs​= θ s ^ \hat{\theta_s} θs​^​
优化目标为
θ s ∗ , θ o ∗ , θ n ∗ ← argmin ⁡ θ ^ s , θ ^ o , θ ^ n ( λ o L o l d ( Y o , Y ^ o ) + L n e w ( Y n , Y ^ n ) + R ( θ ^ s , θ ^ o , θ ^ n ) ) \theta_{s}^{*}, \theta_{o}^{*}, \theta_{n}^{*} \leftarrow \underset{\hat{\theta}_{s}, \hat{\theta}_{o}, \hat{\theta}_{n}}{\operatorname{argmin}}\left(\lambda_{o} \mathcal{L}_{o l d}\left(Y_{o}, \hat{Y}_{o}\right)+\mathcal{L}_{n e w}\left(Y_{n}, \hat{Y}_{n}\right)+\mathcal{R}\left(\hat{\theta}_{s}, \hat{\theta}_{o}, \hat{\theta}_{n}\right)\right) θs∗​,θo∗​,θ

最低0.47元/天 解锁文章
小全读论文《Learning without Forgetting》TPAMI 2017
FatMigo的博客
09-26 2884
《Learning without Forgetting》 一、介绍 这篇文章的论文版本发表于ECCV2016，会议版本发表于TPAMI2017，本文是针对会议版本进行展开。 本文关注的问题是我们现在有一个训练好的网络，现在遇到了一些新的类别和样本，如何在不接触原有类别的数据的情况下，训练出一个新的网络，它在旧的类别和新的类别上都能有比较好的性能。这个问题其实也被称为“增量学习”（incre...
MicrosoftAsia-Semantics-Aligned Representation Learning for Person Re-identification---论文阅读笔记和工程实现总结
HeavenerWen的博客
05-19 1435
摘要 In this paper, we propose a framework that drives the reID network to learn semantics-aligned feature representation through delicate supervision designs 提出了一个框架，一个驱动reID 网络学习语义对齐的feature represention through 精细的监督设计。 学到的特征，在本质上就是语义对齐的意思。 ...
matlab特征点代码-LearningWithoutForgetting:ECCV2016的“不忘学习”资料库
05-24
matlab特征点代码不忘学习 由伊利诺伊大学厄巴纳－香槟分校和在此创建。 项目 。 有关此存储库的任何问题，请联系。 注意：此存储库是使用MatConvNet实现的。 对于PyTorch版本，我的同事Arun Mallya的存储库中有一个。 如果您决定改用他的代码，请同时引用两篇论文。 介绍 永不忘记的学习旨在向现有的卷积神经网络添加新功能（新任务），与原始功能（旧任务）共享表示，同时允许调整共享表示以适应两项任务，而无需使用原始训练数据。 由此产生的网络仅对新任务进行完全微调，表现出比广泛使用的方法更好的实践。 它也胜过特征提取，但仅在新任务性能上。 可以在中找到更详细的摘要。 该软件旨在复制我们的方法。 我们使用图书馆。 用法 该代码已在Linux（64位Arch Linux 4.4.5-1-ARCH）上进行了测试 先决条件 Matlab（已针对R2015b测试） MatConvNet v1.0-beta13 为了支持GPU，我们使用TITAN X和CUDA 7.5。 安装 使用其安装指南相应地编译MatConvNet。 下载要在其上进行实验的数据集，并进行适当放置。 （请参见数
Learning Without Forgetting的pytorch实现
x18774007530的博客
11-12 1414
最近看了关于Zhizhong Li, Derek Hoiem的Learning without Forgetting ，在网上找了许多此方面的python代码发现运行的时候会出错。所以想着对代码做些修改能够正常运行。至于能看到这篇文章应该是对LWF有一定了解的，所以我直接放上代码连接和实验后的一些分析（数据集是源代码中的CIFAR100数据） 实验后发现在不断的两类两类的学习后，测试正确率很低。能到百分之十几左右，因此我有几个猜想 ...
基于Knowledge Distillation的增量学习论文学习（之二）——Learning without forgetting
zhenyu_an的博客
10-12 2341
本博客重点解析《Learning without forgetting》 Learning without forgetting（LwF）方法是比较早期（2017年PAMI的论文，说起来也不算早）将Knowledge Distillation与深度学习结合起来解决增量学习的工作，在该方法中，深度网络完全舍弃旧数据，而在新数据上进行训练。 作者将可能具有增量学习性能的方法...
[论文翻译] Learning Without Forgetting
xiongxyowo的博客
03-20 3445
https://link.springer.com/chapter/10.1007/978-3-319-46493-0_37 Learning Without Forgetting
《Learning without Forgetting》 论文阅读笔记
Chris_zhangrx的博客
12-05 7106
文章目录1. 引言2. 相关工作2.1 方法对比2.2 局部相关方法2.3 同时期的方法3. 不遗忘学习 原文链接： Learning without Forgetting 1. 引言 在很多实际的视觉应用中，都需要在保留旧知识的基础上学习新的知识。例如，为了建筑工地安全，已经开发了一个服装安全检测系统，可以检测工作人员是否穿了反光背心或者安全帽，但是项目负责人想系统也可以检测出工作人员是否穿了合...
论文浅尝 | Continual Learning for Named Entity Recognition
开放知识图谱
06-25 723
笔记整理：李淑怡，天津大学硕士动机在许多真实任务下，常常需要引入新的实体类型，因此需要重新训练命名实体识别模型。当因为存储或安全问题限制对原始数据的访问时，那么为新实体类型重新标注原始数据的成本将会是高昂的。而现有的持续学习方法又很容易出现灾难性遗忘问题(catastrophic forgetting)。因此作者提出通过蒸馏学习保留先前学习的现有知识，使原模型指导新模...
【论文阅读笔记】2020NeurIPS终身学习（Lifelong /continual learning）相关论文列表
zincrain的博客
12-08 1323
GAN Memory with No Forgetting已读待写； Calibrating CNNs for Lifelong Learning已读待写； Improved Schemes for Episodic Memory-based Lifelong Learning已读待写； Lifelong Policy Gradient Learning of Factored Policies for Faster Training Without Forgetting强化学习相关，暂未读懂； Cont.
TRL(Transformer Reinforcement Learning) PPO Trainer 学习笔记
最新发布
u012374012的专栏
04-28 847
如上所述，可以使用任何针对字符串返回标量值的函数来生成奖励（the reward can be generated using any function that returns a single value for a string），无论是简单的规则（例如字符串的长度）、度量（例如 BLEU）还是基于人类偏好的奖励模型。由于 PPOTrainer 在每个执行步骤中都需要主动奖励，因此我们需要定义一种在 PPO 算法的每个步骤中获取奖励的方法。在此示例中，我们将使用上面初始化的情绪奖励模型。
Learning without Forgetting 详解（LwF）
热门推荐
gbyy42299的博客
11-04 1万+
一、概述 这篇文章仍然从最简单的分类任务入手，巧妙运用了Knowledge Distill技术来缓解这样的问题。具体地，使用旧模型作为teacher model，对于新任务中的每一个样本。和传统的Finetune比起来，LwF使用了teacher model输出的soften softmax对新任务中的样本进行约束。 二、网络结构详解 对于一个CNN网络，对于shared参数θsθ_sθs​，和...
2016-ECCV-《Learning without Forgetting》论文阅读笔记
weixin_39450145的博客
05-03 2110
2016-ECCV-《Learning without Forgetting》 论文地址：Learning Without Forgetting | SpringerLink 代码地址：https://github.com/lizhitwo/LearningWithoutForgetting 摘要 1）在构建统⼀的视觉系统或逐步向系统添加新功能时，通常的假设是，所有任务的练数据始终是可用的。 2）然而，随着任务数量的增加，对此类数据的存储和重新训练变得不可行。这就出现了一个新的问题，当我们向卷.
【连续学习之LWF算法】2016年TPAMI期刊论文：Learning without forgetting
BetterBench的博客
11-10 366
年份：2016作者：李志忠;德里克·霍伊姆，伊利诺伊大学期刊：IEEE transactions on pattern analysis and machine intelligence引用量：3353提出一种名为"无忘记学习"的算法，用于在卷积神经网络(Convolutional Neural Network, CNN)中添加新的视觉能力，同时保留原有的能力，而无需使用旧的训练数据。这种算法只使用新任务的数据来训练网络，同时保持原有的能力。
Learning without Forgetting 翻译
大琪子的博客
03-04 3490
已弃坑，希望以前翻译的论文对感兴趣的人们有所帮助。 机翻+自己手动改一些内容。 Learning without Forgetting 摘要 在构建统一视觉系统或逐渐向系统添加新功能时，通常的假设是始终可以获得所有任务的培训数据。但是，随着任务数量的增加，对这些数据的存储和再培训变得不可行。在我们向卷积神经网络（CNN）添加新功能时出现了一个新问题，但其现有功能的训练数据不可用。我们提出了我们的学...
《Learning Without Forgetting》(LWF)阅读笔记
liushuping528的博客
10-20 563
Learning Without Forgetting
探索迁移学习新境界：无遗忘学习实践
gitblog_00087的博客
06-26 487
探索迁移学习新境界：无遗忘学习实践 LWFImplementation of Learning without Forgetting paper项目地址:https://gitcode.com/gh_mirrors/lwf/LWF 在当今这个数据爆炸的时代，机器学习和深度学习的项目层出不穷，而如何让模型在不断学习新知识的同时不忘记旧有知识，成为了业界的一大挑战。今天，我们有幸向您推荐一个基于论文...
机器学习：Leaning without Forgetting -- 增量学习中的抑制遗忘
Matrix-11
02-17 4442
传统的机器学习中，训练数据的类别都是固定的，这里也有一个假设，就是测试集也是类别固定的，这也是为什么现在很多模型在人类看来非常白痴的原因，套用一句非常经典的话来说，就是对于一个只见过猫狗的模型来说，那么这个世界在这个模型眼里里，只有猫狗两种可能。 所以很多研究人员开始探索增量学习这种技术，这种技术是模拟人的认知过程的，虽然我们无法见过这世界所有的东西，但是随着我见过的物体种类越来越多，那我们能够认...
读书笔记-增量学习-LwF_Learning without Forgetting
谷粤狐的博客
11-09 5110
2017的经典论文，Learning without Forgetting（LwF）。在多篇论文中被用作实验比较的经典算法。作者认为Fine Tuning / Duplicating and Fine Tuning / Feature Extraction / Joint Training这几种基于修改参数的算法均存在性能或效率不高的问题。实验证明，作者提出的LwF算法可以克服上述算法的不足。 LwF实现增量学习的核心是对参数的更新方法，文章介绍并比较了几种经典增量学习的算法Fine Tuning /
【连续学习之LWF算法】2017年顶会论文： Learning without forgetting
BetterBench的博客
08-06 1426
作者提出了一种名为“Learning without Forgetting”（LwF）的方法。利用知识蒸馏损失来保持旧任务的输出，这是一种创新的损失函数应用，与传统的参数正则化方法相比，能够更直接地保留旧任务的知识。这种方法使用新任务数据来训练网络，同时保留原始功能。LwF的表现优于常用的特征提取和微调适应技术。
learning without forgetting的pytorch实现
09-08
learning without forgetting是指在进行连续学习任务时，保持之前所学习知识的不被遗忘。为了实现learning without forgetting，可以使用PyTorch这一深度学习框架。 在PyTorch中，可以使用增量学习（incremental learning）的方法。具体步骤如下： 1. 定义初始模型：首先，定义一个初始模型，用于解决第一个学习任务。可以使用PyTorch中的Module类来创建模型，并选择适当的网络结构。 2. 学习第一个任务：使用第一个任务的数据集对模型进行训练。可以使用PyTorch提供的DataLoader类来加载数据集，使用优化器（如Adam或SGD）和损失函数（如交叉熵损失）对模型进行训练。 3. 保存模型参数：在完成第一个任务的训练后，将模型的参数保存起来。可以使用torch.save()函数将参数保存到磁盘上的文件中。 4. 准备新任务：准备新的数据集和标签，用于学习新的任务。可以使用相同的网络结构或者更改网络结构，根据新的任务要求进行适当的调整。 5. 加载之前的模型参数：在开始新的任务训练之前，使用torch.load()函数加载之前保存的模型参数。 6. 设置学习率：由于新的任务可能与之前的任务有不同的难度或重要性，可以设置不同的学习率来适应新任务的特点。可以使用PyTorch中的scheduler类或手动调整学习率。 7. 学习新任务：使用新的数据集对模型进行更新训练。可以使用先前定义的优化器和损失函数，使用torch.nn.Module的train()方法进行训练。 通过以上步骤，可以在PyTorch中实现learning without forgetting。重要的是保存和加载已训练模型参数，并根据新任务的要求进行适当的调整。同时，可以根据需要设置学习率等超参数，以更好地适应不同任务的特点。
评论 10
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值