李宏毅——元学习meta learning1

最新推荐文章于 2022-12-03 12:00:23 发布
最新推荐文章于 2022-12-03 12:00:23 发布
阅读量2.3k 收藏 16
点赞数 2
分类专栏： 李宏毅
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/shaoyue1234/article/details/102400044
版权

李宏毅——元学习meta learning1

导语

什么是meta learning：学习如何去学习
例子：
机器学习了一堆任务后，再过去经验上，成为一个更好的学习者
比如做语音辨识，图像辨识后，学习文字分类更快
在这里插入图片描述
life-long和meta-learning的区别：
life-long是一个模型一直学习
meta不是一个模型，而是学会更好的学习

meta-learning

在这里插入图片描述
在meta-learning中，把学习算法也当作一个函数F，吃进去的是训练资料，吐出来另外一个function
可以视为
在这里插入图片描述
区分machine learning和meta learning
meta是要找一个大写的F，输入是训练资料，输出是模型
在这里插入图片描述
机器学习的三个步骤：
定义一个function set，定义loss，然后找到最好的function。
meta的话，只是把f改成F，learning algorithm F。
在这里插入图片描述

meta-learning的步骤

什么叫一组learning algorithm

在gradient descent中，算法如下图
在这里插入图片描述
整个圈起来的过程，就可以看作是一个Learning Algorithm
。红色的方块选择不同设计的时候，就等于选择了不同的算法。
现在都是人为决定这些红色部分，让机器自己去学习如何决定红色部分，就是达成了meta learning的一部分。

如何评价一个F的好坏

训练一个猫狗分类任务，用测试数据测试任务表现怎么样，在机器学习中，要用一组数据来考量好坏，meta-learning中，要用一组任务来考量好坏。
在这里插入图片描述
右上角的L即为loss。

meta learning vs machine learning

在machine learning中，准备训练资料和测试资料
在meta learning中，准备训练任务及其对应的资料
其中也有可能需要validation task。
meta-learning在few-shot中可能使用，因为训练资料少，跑的比较快，可以比较好评估。
在few-shot中，通常把train和test称为support set和query set。
在这里插入图片描述

怎么找最好的learning algorithm

首先根据loss找到最好的F，然后对新任务进行训练，在用测试数据进行测试，来评估表现。
在这里插入图片描述

benchmark

omniglot

在这里插入图片描述

如何使用

在few-shot classification中
决定多少Way，多少个shot。way表示多少个类别，shot表示多少个example。
在实际训练中，要将符号分为训练组和测试组。
训练时从训练组中找N个character，然后找到K个example。测试时方法一样，但是从测试组中选。
在这里插入图片描述

当前的方法

MAML

算法

在这里插入图片描述
学习红框部分的初始化参数。训练网络，得到最好的theta，而这个theta是取决于如何初始化的，即可用Loss函数评估网络的好坏
在这里插入图片描述
如何最小化loss呢
可以利用gradient descent。
区分MAML与model pre-training
在model pre-training中，用正在训练的模型来计算loss，而maml中使用训练好的模型
在这里插入图片描述
下图中横轴是model parameter，如果是maml中，我们不在意现在的表现，比如图中的phi做初始的参数，将顺着gradient的方向，在两个任务上都走的很好
在这里插入图片描述
在model pre-training中，在意现在的表现，但不保证训练后会好。
在这里插入图片描述
所以两者的区别在于黄框中的字。MAML在乎潜力，model pre-training中在乎当前表现。
在这里插入图片描述
MAML在实战时，假设参数只更新一次，模型就是下图。
theta和phi的关系就是右下角的式子。
只更新一次的理由：快，phi棒到只更新一次就很好，在测试实战时可以更新多次，few-shot中数据有限
在这里插入图片描述

例子

toy examle

每个任务的做法都是估计function，可以多选ab，构造多个task
在这里插入图片描述
使用model pre-training，获得的是水平线
做MAML，获得的是下面的线。
在这里插入图片描述

omniglot& mini-imageNet

在这里插入图片描述
其中first order approx是一种变形：
在这里插入图片描述
在这里插入图片描述
在论文中，为了简便
在这里插入图片描述
在这里插入图片描述

实际实现

首先用一个taskm，获得thetam，然后用thetam来更新phi，如此下去。
跟model pre-training相比，maml要更新两次
在这里插入图片描述

在翻译上的应用

横轴代表每一个任务上用的训练资料，metaNMT表示MAML，multiNMT表示pre-training，通常meta比较好。
在这里插入图片描述

Reptile

在这里插入图片描述

想法

可以update很多次，然后根据二者之间的差，让phi走过去
在这里插入图片描述
做的和model pre-training很相似。
他们之间的区别如下：
pre-train走的方向是g1，MAML是g2，reptile是g1+g2
在这里插入图片描述

其他算法

除了找初始参数，还能找网络架构、activation等，或者如何更新
在这里插入图片描述

思考

在这里插入图片描述
在这里插入图片描述

shaoyue1234
关注
  • 2
    点赞
  • 踩
  • 16
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
MetaLearning原理与代码实例讲解
AI大模型应用之禅
06-06 809
Meta-Learning原理与代码实例讲解 1.背景介绍 在人工智能和机器学习领域，Meta-Learning（元学习）作为一种新兴的研究方向，正逐渐引起广泛关注。Meta-Learning的核心思想是“学习如何学习”，即通过训练一个模型，使其能够快速适应新任务。传统的机器学习
meta learning（李宏毅
linyuxi_loretta的博客
11-13 992
meta 元meta learning： learn to learn 学习如何学习大部分的时候deep learning就是在调hyperparameter、调hyperparameter真的很烦，决定什么network的架构啊、决定learning rate啊等等、实际上没有什么好方法来调这些hyperparameter、今天业界最常拿来解决调hyperparameter的方法呢就是买很多张gpu了、
李宏毅机器学习35——meta learning
weixin_57178683的博客
08-29 580
一、什么是Meta learning 让机器学习如何去做学习 机器在经过一系列的学习任务后，可以将学到的知识用在新的学习任务中，成为一个更好的学习者。这样在遇到新的学习任务时，机器能够能快的完成。- 机器学习指的是找到满足需求的函数f，以下图为例，f的任务是对图像识别。 Meta learning指的是找到产生f的函数F，向F输入训练数据，可以产生满足需求的f。 Meta learning的步骤与machine learning类似，机器学习的步骤是： 1.定义函数集 ...
Meta learning 元学习李宏毅机器学习
weixin_41684423的博客
04-07 673
Meta learning= learn to learn 机器学过很多任务后，机器变成更厉害的学习者，遇到新的任务的是可以学的更快更好。 e.g机器学过语音、影响分类后，可以对文本分类做得更好。 一、区别与联系 1.transfer learning与meta learning的区别：transfer learning的目的是通过taskA去增强taskB，e.g. 用一个NN去解决了城市A的任务，现在用这个NN修改最后基层，解决城市B的任务， 其效果要比单独对城市B用NN效果好。但...
[2022]李宏毅深度学习与机器学习第十五讲（必修）-Meta Learning
最新发布
weixin_45920982的博客
12-03 623
1、监督自己把50多个小时的视频看下去，所以每看一部分内容做一下笔记，我认为这是比较有意义的一件事情。 2、路漫漫其修远兮，学习是不断重复和积累的过程。怕自己看完视频不及时做笔记，学习效果不好，因此想着做笔记，提高学习效果。 3、因为刚刚入门深度学习，听课的过程中，理解难免有偏差，也希望各位大佬指正。工业界和学术界寻找超参数的方法并不相同。Meta Learning就是让机器去学习如何调参数。 Meta learning 也是三部曲，寻找方程定义损失，优化。 有一系列的训练任务 所有任务的Loss相
李宏毅机器学习笔记第19周_元学习（Meta Learning）
peaunt1的博客
08-18 322
Meta Learning
李宏毅——深度学习ppt
06-23
共计300多页ppt，是最深入浅出的深度学习入门资料。你值得拥有！
李宏毅老师深度学习PPT
11-18
李宏毅老师在深度学习领域的教学资源深受业界好评，他的课程覆盖了多种先进技术，包括元学习、终身学习和强化学习等。 元学习，也称为学习学习，是一种使机器学习模型能够快速适应新任务的方法。在元学习中，模型...
视频学习笔记——李宏毅机器学习——P1，2
09-12
它通过构建深层神经网络，模拟大脑神经元之间的连接，以解决复杂的学习问题。深度学习在图像识别、语音识别、自然语言处理等领域取得了显著的成就，成为了现代人工智能技术的基石。 【监督学习】 监督学习是机器...
李宏毅2020机器学习作业2——Classification
01-21
开始之前声明：本文参考了李宏毅机器学习作业说明（需翻墙），基本上是将代码复现了一遍，说明中用的是google colab（由谷歌提供的免费的云平台），我用的是Jupyter Notebook 本文用到的资料在百度网盘自取点击下载...
深度学习基础——简单了解meta learning(来自李宏毅课程笔记)
umbrellalalalala的博客
11-11 1603
一、初步了解 我们以分类问题为例，以前，学习的目的是学习一个二元分类器f∗f^*f∗；现在，学习的目的是学习一个学习算法F，这个学习算法F能够学习一个二元分类器f∗f^*f∗。 既然要直接学习一个学习算法F，那么就要考虑它的参数。以往的学习，是为了学习一个具体的二分类器f∗f^*f∗，假设人为指定的学习算法是感知机，那么学习的过程需要改进的参数就是www和bbb。现在进行meta learning，目的是直接去学习学习算法F，那么需要关注的参数（上图中以“component”表示）就是网络架构、初始化参数
元学习（meta learning）综述论文（2020年）
04-17
元学习旨在学会学习，是当下研究热点之一。最近来自爱丁堡大学的学者发布了关于元学习最新综述论文《Meta-Learning in Neural Networks: A Survey》，值得关注，详述了元学习体系，包括定义、方法、应用、挑战，成为不可缺少的文献。
李宏毅机器学习中文课程全套视频
08-30
txt内容为百度云链接，链接内容为台大李宏毅教授的中文课程，目前国内最好的免费国语机器学习课程
Meta Learning（元学习， Learning to Learn）最新具有代表性文章10篇 【是pdf，不是代码，不知为什么名称后面自动加源码下载】
01-01
Meta Learning（元学习，又叫 Learning to Learn）已经成为继Reinforcement Learning之后又一个重要的研究分支。这是Meta Learning领域最新具有代表性的十篇文章，值得精读，相信对机器学习学习者和研究者会有很大启发。
李宏毅【课件PPT】
12-07
此压缩包包含李宏毅老师的机器学习所有课件，都是在李宏毅老师个人主页下载整理的，建议配合B站李宏毅老师的Machine Learning 视频一块使用，里面的公式最好推导一下，效果更佳！
李宏毅深度学习ppt
12-24
台湾大学李宏毅教授的深度学习方面的一些课堂ppt资料，希望可以帮到你们
元学习（3）--李宏毅老师课程学习笔记
qq_41694504的博客
05-28 342
有没有什么模型，它可以直接输train data 和test data,输出是不是，全部封装好。 其实我们手机上的人脸识别就是这样的。 siamese network --孪生网络，两个网络的参数可以共享也可以不共享。 matching network 认为图之间是有关系的，图的顺序对调结果就不一样了，所以就提出了prototyptical network。 relation network 是再用一个网络去计算测试图和训练图得到的embedding。 对于小样本学习，我们也可以让机器去幻想，
【李宏毅】元学习（Meta learning）的概念与步骤
niexinyu0026的博客
10-20 3123
只讲了元学习概念和步骤，简单做了解，稍微复杂一点的都没讲
李宏毅机器学习——学习笔记（14） Unsupervised Learning-Neighbor Embedding
m0_37757740的博客
04-05 510
Manifold Learning （流型学习）：将流型空间降维后，可以直接用普通方法进行邻居embedding。 Locally Linear Embedding（LLE）：运用样本x邻居的线性组合来表示样本x，样本x降维后所形成的z仍然基于原来的权重，用邻居的线性组合来表示。 首先在原来的空间中找到w，在降维以后的空间中，固定住w，找出一组z，最小化邻居表示样本的误差。 这个方法比较重要...
李宏毅深度学习教程：一天掌握深度学习基础
"李宏毅教授的‘深度学习 1天搞懂深度学习’教程，是一份详尽而通俗易懂的深度学习介绍，共有300页PPT，覆盖了深度学习的基础技术、趋势以及神经网络的变体。这份教程在知乎上获得了极高的评价，适合对深度学习感...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值