【论文笔记】Gradient Episodic Memory for Continual Learning

已于 2022-06-26 10:44:00 修改
阅读量1.3k 收藏 10
点赞数 1
文章标签： 人工智能 机器学习 深度学习
于 2022-06-22 17:36:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lasetd/article/details/125402044
版权

Gradient Episodic Memory for Continual Learning（用于持续学习的梯度情景记忆）

本篇论文的贡献

①提出了一组指标来评估模型在连续数据上的学习。
②提出了一种持续学习模型，称为梯度情景记忆 (GEM)，它可以减轻遗忘，并支持正向反向迁移。③在 MNIST 和 CIFAR-100 数据集上证明了 GEM 与最先进的技术相比具有强大的性能。

创新性

大多数监督学习方法假设每个示例 ( x i , y i ) (x_{i}, y_{i}) (xi​,yi​)是来自固定概率分布 P 的相同且独立分布 (iid) 的样本。ERM 的直接应用会导致“灾难性遗忘”（学习新任务可能会损害学习者在以前解决的任务中的表现）。本文缩小了 ERM 与更类似于人类的学习之间的差距。
i）任务的数量很大
ii）每个任务的训练示例数量很少
iii）学习者只观察与每个任务有关的示例一次
iv）报告了衡量迁移和遗忘的指标，而不是仅报告所有任务的平均性能。

Gradient of Episodic Memory (GEM)算法步骤

①将任务描述符 t i t_{i} ti​引入输入样本 ( x i , y i ) (x_{i},y_{i}) (xi​,yi​)中构成数据连续体，假设整数任务描述符，并使用它们来索引情节记忆；假设数据连续体是局部独立同分布的，即每个 ( x i , t i , y i ) (x_{i},t_{i},y_{i}) (x

最低0.47元/天 解锁文章
疯狂的小猴子h
关注
  • 1
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
持续学习：PyTorch实施各种持续学习方法（XdG，EWC，在线EWC，SI，LwF，GR，GR +蒸馏，RtF，ER，A-GEM，iCaRL）
02-05
持续学习 这是以下论文中描述的持续学习实验的PyTorch实现： 三种持续学习的方案（） 具有反馈连接的生成性重放是持续学习的通用策略（） 要求 当前版本的代码已经过测试： pytorch 1.1.0 torchvision 0.2.2 运行实验 可以使用main.py运行单个实验。 主要选项有： --experiment ：哪个任务协议？ （ splitMNIST | permMNIST ） --scenario ：根据哪种情况？ （ task | domain | class ） --tasks ：多少个任务？ 要运行特定方法，请使用以下命令： 上下文相关门（XdG）：
论文笔记—Recasting gradient-based meta-learning as hierarchical bayes
07-21
论文摘要：元学习允许智能代理利用先前的学习情节作为快速提高新任务性能的基础。贝叶斯分层建模提供了一个理论框架，用于形式化元学习，作为对跨任务共享的一组参数的推断。在这里，我们重新定义了Finn等人的模型不...
Gradient Episodic Memory for Continual Learning 论文阅读+代码解析
qq_45478482的博客
12-16 2758
一. 介绍 在开始进行监督学习的时候我们需要收集一个训练集Dtr={(xi,yi)}i=1nD_{tr}=\{(x_i,y_i)\}^n_{i=1}Dtr​={(xi​,yi​)}i=1n​。大部门的监督学习都假定每一个例子都是从一个固定的概率分布P中进行独立同分布的采样。监督学习的目标为构造一个模型fff去预测目标向量y通过x。为了实现这种假设，监督学习通常采用经验风险最小化原则（ERM），fff在这种情况下为1∣Dtr∣∑(xi,yi)∈Dtrl(f(xi),yi)\frac{1}{|D_{tr}|}\
Continual Learning 经典方法 — Gradient Episodic Memory (GEM)
Jingyang.Zhang的博客
11-02 4724
1. 终身学习目标： 缓解灾难性遗忘问题：当数据以online stream的方式训练模型时，训练完 Task 1 之后的模型，在学习 Task 2 的数据时往往会将 Task 1 的知识遗忘，导致在之前训练过的 Task 1 上性能急剧下降。 2. Gradient of Episodic Memory 2.1 什么叫 Episodic Memory 最直观的解决遗忘性问题的方法，就是保存之前训练过任务的数据 (考虑到数据隐私性和计算存储开销的问题，保存的数据量不宜过大) —— 因此将保存好的之前训练过
【持续学习系列(七)】Gradient Episodic Memory for Continual Learning
最新发布
weixin_45225032的博客
01-05 1025
论文提出了一个名为GEM的模型来解决持续学习中的灾难性遗忘问题，并在实验中展示了其有效性。GEM通过使用情节记忆来最小化对旧任务性能的负面影响，并允许有益的知识传递。尽管GEM在实验中表现出色，但仍有改进的空间，特别是在利用任务描述符、记忆管理和计算效率方面。
【博士每天一篇文献-算法】Gradient Episodic Memory for Continual Learning
BetterBench的博客
10-27 441
针对持续学习中灾难性遗忘问题提出一种名为Gradient Episodic Memory（GEM）算法，这种算法核心思想是将有益的知识传递给过去的任务。还提出了一组评估学习模型在任务间转移知识和避免灾难性遗忘能力的度量指标。
（GEM）Gradient Episodic Memory for Continual Learning论文笔记
Lcx559的博客
11-13 364
GEM论文阅读
Stochastic Gradient Techniques for Optimization and Learning.pdf
11-22
优化与学习的随机梯度技术 来自Bernd Heidergott 和Felisa J. Vazquez-Abad 撰写的优化与学习的随机梯度技术，涵盖随机优化与学习理论和梯度估计技术。值得关注
沈弢-Stochastic Gradient Push for Distributed Deep Learning1
08-04
《Stochastic Gradient Push在分布式深度学习中的应用》 分布式数据并行算法致力于通过在多个节点间并行计算大型小批量梯度更新来加速深度神经网络的训练。这些方法通常依赖于精确的分布式平均（如ALLREDUCE）来...
ON LARGE-BATCH TRAINING FOR DEEP LEARNING论文原文PDF
01-21
然而，"ON LARGE-BATCH TRAINING FOR DEEP LEARNING: GENERALIZATION GAP AND SHARP MINIMA"这篇论文，由N. Keskar等人在ICLR 2017上发表，揭示了大型批量训练可能导致模型泛化能力下降的问题，即“泛化差距”。 ...
持续学习、终身学习、情景记忆、记忆模块论文总结——梯度情景记忆促进持续学习
欢迎一起成长呀
07-19 420
针对大量任务、少量样本的持续学习，在MNIST和CIFAR-100数据集上实验
PRN（20210425）：Gradient based sample selection for online continual learning
昔风不起，唯有努力生存！
04-25 1388
智能体需要具备不断适应环境的能力，这就使得其必须能够利用当前与环境或其他智能体交互的样本进行在线、增量式学习的能力。深度神经网络被广泛用于作为学习的模型，应用于这样的增量式学习任务时存在灾难性遗忘问题。缓解该问题的一种方法是：利用一个类似于DQN的经验回放单元存储重要的历史样本用来回忆(rehearsal)历史知识，使模型克服（目前还做不到“克服”，个人觉得用“缓解”更合适）灾难性遗忘问题。该方法的核心要点是如何从持续到来的数据中选择合适的样本。对于一个样本可持续的学习任务，数据一般都是在线产生的，无法保.
论文笔记：Gradient Regularized Contrastive Learning for Continual Domain Adaptation
weixin_41978493的博客
03-26 739
论文地址：https://arxiv.org/abs/2007.12942 代码地址：尚未开源 1 Main Idea（梯度正则化） 1）令梯度不损害源域特征的判别能力，反过来提高模型对目标域的自适应能力； 2）约束梯度不提高在旧目标域上的分类损失，使得模型在旧目标域上的表现得到保持，同时对新目标域有很好的适应能力。 在本文中，作者认为保留源域特征的可分辨能力可以提高模型对不同目标域的适应能力，也即由于源域的标签是已知的，因此从源域中学到的分辨能力可以引导对所有域的适应。多任务学习即源域上的分..
Ruby 学习（一）Gem
zhhelnice的博客
06-26 231
文章目录Gem查看版本 `gem --version`查看已安装的包 `gem list`安装包 `gem install 包名称`卸载包`gem uninstall 包名称` Gem 是ruby的包管理器 链接 查看版本 gem --version gem --version 3.0.4 查看已安装的包 gem list 本地已经安装的包 gem list --local gem list 远端可用的安装包 gem list --remote 安装包 gem install 包名称 gem
Improved Schemes for Episodic Memory-based Lifelong Learning 论文阅读+代码解析
qq_45478482的博客
12-15 2703
论文地址点这里 一. 介绍 目前深度神经网络能够在单一任务上取得了显著的性能，然而当网络被重新训练到一个新的任务时，他的表现在以前训练过的任务上急剧下降，这种现象被称为灾难性遗忘。与之形成鲜明对比的是，人类的认知系统能够在不破坏以前学到的情况下获得新的知识。 灾难性遗忘激发了终身学习的领域。终身学习的一个核心难题是如何在旧任务和新任务之间取得平衡。在学习到新任务的过程中，原来学习到的知识通常会被打乱，从而导致灾难性遗忘。另一方面，偏向旧任务的学习算法会干扰新任务的学习。而针对这种场景下，目前提出了几种策略。
Lifelong Learning
Forlogenの解忧杂货铺
05-26 5196
Lifelong Learning https://www.forbes.com/sites/kpmg/2018/04/23/the-changing-nature-of-work-why-lifelong-learning-matters-more-than-ever/#4e04e90e1e95 终身学习（Lifelong Learning或Continuous Learning、 Nev...
Incremental Learning
zhuiqiuk的专栏
04-19 2491
2018-2019 Paper: Multi-task settings: Class-incremental Learning via Deep Model Consolidation https://arxiv.org/abs/1903.07864v1 End-to-end Incremental Learning https://github.com/fmcp/EndToEndI...
机器学习-48-Life-long Learning(终生学习)
迷雾总会解
01-20 5716
我们是否可以只用一个网络结构（注意，这里的网络结构并非是固定的。也许随着任务的需要，得自行扩展网络），在不同的任务上分别训练，使得该网络能够胜任所有的任务呢？ 这就是Life-long learning 所要研究的课题。
gradient episodic memory for continual learning
04-06
Gradient episodic memory for continual learning是指一种用于连续学习的梯度迭代记忆技术。它可以在学习新任务时保留旧任务的知识，同时避免过拟合和忘记旧知识。这种技术可以将旧任务的梯度迭代存储在记忆库中，并在学习新任务时使用这些存储的梯度来更新神经网络。这样，神经网络就可以在新任务上进行学习，同时保留旧任务的知识。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值