life long learning 学习笔记

最新推荐文章于 2022-11-26 21:15:00 发布
最新推荐文章于 2022-11-26 21:15:00 发布
阅读量491 收藏 2
点赞数 3
分类专栏： 学习笔记 文章标签： 人工智能 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42345025/article/details/109745396
版权

学习来源：李宏毅2020机器学习深度学习(完整版)国语

链接:https://www.bilibili.com/video/BV1JE411g7XF?p=99

life long learning 也可称为：

终身学习的目的：同时学会多个技能

为了达成life long learning 需要解决的问题：1、保留多任务的知识（不遗忘） 2、知识迁移 3、有效率的模型扩张

举例：使用nn对手写数字0进行识别，如图的两个问题，如果先学task1，再学task2，会使task1的表现变差

一个解决方法：将task1、2的训练数据放在一起

先学task1，再学task2时，对task1知识的遗忘，也称为“灾难性遗忘”

那是不是同时学习多任务就可以呢？问题：这样需要同时保存多任务的训练数据，需要背负大量的旧任务数据：会产生存储问题；同时训练大量数据：会产生计算开销问题。

所以将多任务学习视作终身学习的upper bound

终身学习的一种基本解决方法：elastic weight consolidation

想法：一些参数对以前的任务更重要，而一些参数对以前的任务没有那么重要：在进行新任务的学习时对重要的参数进行较小的改动

具体方案：

一个图例：theta2对task1很重要，而theta1不重要；在学习task2时应对theta2进行较小改动

多任务学习可以解决遗忘问题，但还有其他问题（存储、计算问题）

一个方案：不保存过去任务的数据，而是保存过去任务的生产模型

transfer learning 和 lifelong learning 的区别：终身学习希望模型可以同时学会task1和task2；而transfer learning只希望模型学习task1后，能否任务在task2的表现更好，而不在意task1的效果

 

对终身学习的一种evaluation：

gradient episodic memory方法：对梯度方向进行一些修改，希望该方向对过去task的表现也有帮助（并不是存下所有corpus，存下部分的过去数据）

模型扩张方法：

progressive neural networks:每次新任务新建一个网络，将以前任务的网络的输出当作新任务的输入

expert gate:每个task训练一个network，同时训练一个task的detector

net2net：若网络的规模不足以将模型训练好，对模型进行分裂，对参数加上一些noise

curriculum learning：对任务学习顺序的排序：因该先学哪个任务

 

 

yjli98
关注
专栏目录
机器学习16 -- Lifelong Learning 终生学习
谢杨易的博客
09-14 1万+
1 什么是lifelong learning Lifelong learning终生学习，又名continuous learning，increment learning，never ending learning。通常机器学习中，单个模型只解决单个或少数几个任务。对于新的任务，我们一般重新训练新的模型。而LifeLong learning，则先在task1上使用一个模型，然后在task2上仍然使用这个模型，一直到task n。Lifelong learning探讨的问题是，一个模型能否在很多个task上
life long learning概述 学习笔记
leah123123的博客
07-27 682
Life long learning：训练同一个大脑，学不同的任务 三个要点： knowledge retention记住学习的知识，not intransigence不能固执不改变。 机器先学a在学b就会忘记a，但是同时学a和b就能都记得不错，称之为catastrophic forgetting knowledge transfer model expansion，but parameter efficiency 第一条解决办法： elastic weight consolidation（.
Life Long Learning(LLL) 终身学习(增量学习)(Continuous Learning & Incremental Learning)
hxxjxw的博客
08-20 2234
人在学习的时候，只有一个大脑，从初中到高中到大学，都是用同一个大脑在学习的 然而在机器学习当中，机器学习的情形真的和人很不一样 机器学习对于每一个作业都会训练一个不同的模型吗，例如从作业1到作业3会训练3个不同的模型 那么为什么我们不每一次作业都训练同一个模型呢 使用同一个模型来进行学习，就是life long learning Life Long Learning, 也叫Continuous Learning, Never Ending Learning, Incremental Lea..
机器学习-48-Life-long Learning(终生学习)
迷雾总会解
01-20 5925
我们是否可以只用一个网络结构（注意，这里的网络结构并非是固定的。也许随着任务的需要，得自行扩展网络），在不同的任务上分别训练，使得该网络能够胜任所有的任务呢？ 这就是Life-long learning 所要研究的课题。
【机器学习】LifeLong Learning（终身学习）介绍
热门推荐
敲代码的quant的博客
04-28 1万+
下面的文章转自（已获作者允许）： 2020机器学习前沿技术----LifeLong learning - stephon的文章 - 知乎 文章介绍了关于机器学习比较前沿的一项技术，也就是LifeLong Learning。这篇文章也对LifeLong Learning与Multi-task Learning以及Transfer Learning进行了对比，所以我将其进行了转载，其中对其排版进行了一...
什么是终身学习（Life Long Learning / Continuous Learning / Never Ending Learning / Incremental Learning）
蓝鲸鱼的博客
05-03 6898
文章目录1. 概念区分1.1 Life Long v.s. Multi task1.2 Life Long v.s. Transfer2. 终身学习2.1 Selective Synaptic Plasticity2.2 Gradient Episodic Memory (GEM)2.3 Progressive Neural Networks2.4 PackNet2.1.5 Compacting, Picking, and Growing(CPG)2.1.6 Generating Data2.1.7 不同架
机器学习笔记14_Life long learning& meta learning
爱技术的小白
03-29 1604
本文是李宏毅机器学习的笔记，这是第十二节，介绍了域适应和网络压缩技术。 文章目录1. Life Long LearningCatastrophic Forgetting2. Meta Learning 1. Life Long Learning Life Long Learning就是让机器可以持续学习，能处理各种各样的任务。 也就是模型通过不断看新的资料，得到反馈，然后更新自身，变得更厉害，能处理更多事情。 但是我们发现，机器学完一个任务之后，再去学另一个任务，那第一任务就会被遗忘，而且这与模型自身的能
Deep Reinforcement Learning : An Overview(Yuxi Li) 学习笔记
weixin_44412076的博客
03-14 3686
翻译的比较粗糙，仅供参考。 2.2 Deep Learning 深度学习与浅层学习形成对比。对于许多机器学习算法，如线性回归、逻辑回归、支持向量机(SVMs)、决策树和增强等，我们有输入层和输出层，在训练前可以用人工特征工程对输入进行转换。在深度学习中，在输入层和输出层之间有一个或多个隐藏层。在除输入层外的每一层，我们计算每个单元的输入，作为上一层单元的加权和;然后，我们通常使用非线性变换，或...
ML-notes:关于机器学习的笔记
05-10
内容包括：Regression, Classification, CNN, RNN, Explainable AI, Adversarial Attack, Network Compression, Seq2Seq, GAN, Transfer Learning, Meta Learning, Life-long Learning, Reforcement Learning. ...
机器学习 笔记
weixin_43844908的博客
09-18 170
文章目录机器学习课程特征工程机器学习中的“特征”到底是什么?数据集的使用数据集的划分 机器学习课程 特征工程 机器学习中的“特征”到底是什么? 经常听到搞算法的人把“feature”挂在嘴边，这个 feature 可不是产品经理丢给开发的feature – 产品的新特性，而是“特征”。在机器学习中，特征是被观测对象的一个独立可观测的属性或者特点。比如识别水果的种类，需要考虑的特征（属性）有：大小、形状、颜色等。要识别一个人是谁，可以用他的走路姿势、说话语气等来衡量。古人归有光在《项脊轩志》提到了“足音辨人”
Life Long Learning
qq_34527082的博客
08-03 705
Life Long Learning目标遇到的问题,挑战:相关算法1. 抗遗忘: Elastic Weight consolidation(EWC)2. 抗遗忘: 训练能够生成之前task样本的模型3. 提升: Gradient Episodic Memory (GEM)4. Model Expansion1. Progressive Neural Networks2. Expert Gate3....
Life-Long Learning（LLL）终身学习的理解
菜菜小孙的blog
08-04 8599
Life-Long Learning（LLL） 看了李宏毅老师的Life-Long Learning视频，以及粗略阅读了A continual learning survey:Defying forgetting in classification tasks这篇综述文章，菜菜的小孙对LLL有了初步的认知。（每次换方向都会秃头，记录一下今日2020年8月3日小孙又去剪了头发，心好痛） 目录Life-Long Learning（LLL）一、什么是lifelong learning？二、longlife lea
Lifelong Learning
孙坤的博客
04-15 405
Lifelong Learning https://www.forbes.com/sites/kpmg/2018/04/23/th...
深度学习《Life-Long Learning》
qq_29367075的博客
11-23 378
本文不打算自己写了，学习自李宏毅的课程，附带链接如下： https://zhuanlan.zhihu.com/p/161379773 https://blog.csdn.net/qq_35564813/article/details/92430068 再次做个记录，方便后续回忆，避免遗忘。
李宏毅：Life Long Learning
最新发布
LarsGyonX的博客
11-26 699
Life Long Learing 也是continual Learning，也是incremental learningTransfer Learning：在任务一上学到的内容Transfer到任务二，关注点在Task2Life-Long Learning：学完Task2以后Task1还能否work。
PMP项目管理知识体系学习笔记
"PMP的学习笔记，包括对ProjectManagementBodyofKnowledge《项目管理知识体系》的深入学习，由PMP学员ShufferCheng分享，适用于PMP项目管理认证备考" PMP，即Project Management Professional，是项目管理专业人员...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值