理解MAML：Model-Agnostic Meta-Learning for Fast Adaption of Deep Networks

最新推荐文章于 2023-01-02 20:36:48 发布
最新推荐文章于 2023-01-02 20:36:48 发布
阅读量1k 收藏 2
点赞数
分类专栏： Few-shot Learning 文章标签： MAML Few-shot Learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xinyuan8719/article/details/102821011
版权
MAML（Model-Agnostic Meta-Learning）是一种用于深度网络快速适应的元学习方法，旨在解决有限样本（few-shot）学习问题。通过在每个任务上进行训练和验证，MAML优化网络在少量样本上的拟合能力。在训练过程中，它以任务为单位，使用支持集进行训练并用查询集验证。测试时，利用新的支持集微调网络，然后用查询集评估性能。
摘要由CSDN通过智能技术生成

论文：Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks (arXiv:1703.03400v3 [cs.LG] 18 Jul 2017)

MAML解决的就是few-shot learning的问题。few-shot就是在有限的样本上训练后进行测试，那么问题转化为，用有限的样本进行训练使网络快速适应拟合当前的类别，然后进行测试。

那么网络的目标就是：在有限的样本上进行快速拟合。训练网络的目的就是在有限的样本上快速拟合的能力。

由此MAML将每个快速拟合作为目标，所以以task为单位： 每个Task中包含有训练/微调样本（support）和验证/测试样本（query）。训练、测试时都是以task为样本单位输入的。

task就包含了有限样本的快速拟合过程（support，在网络中属于训练微调步骤），然后测试（query）过程。

【注】为了区分训练和测试时的样本类别名称： 

  • 训练步骤：support表示为训练集，query表示为验证集；
  • 测试步骤：support表示为微调集，query表示为测试集。

【训练】：

1. 随机的初始化网络参数

最低0.47元/天 解锁文章
XinYuan8719
关注
专栏目录
论文阅读：Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
王小波的博客
07-18 1746
基本概念
Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
08-15
Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks(MAML)简析
qq_61462487的博客
01-02 993
简要介绍了MAML的大致内容，希望有助于大家理解。
【Meta-Learning】Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
weixin_40607428的博客
11-30 592
文章目录欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编
MAML：Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
qq_42192910的博客
02-15 407
Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks Paper:https://arxiv.org/pdf/1703.03400.pdf Code:https://github.com/cbfinn/maml Tips：ICML的一篇Meta-learning相关的paper，可参考李宏毅的公开课。 （阅读笔记） 1....
Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks相关
VIEO
06-01 482
元学习论文总结||小样本学习论文总结 2017-2019年计算机视觉顶会文章收录 AAAI2017-2019 CVPR2017-2019 ECCV2018 ICCV2017-2019 ICLR2017-2019 NIPS2017-2019 论文翻译：https://blog.csdn.net/weixin_41803874/article/details/91454944 The vi...
MAML Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks学习笔记.docx
02-20
MAML Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks学习笔记 元学习是一种机器学习算法，它可以让模型在新的任务中快速学习和适应，仅使用少量的训练样本。元学习的目标是使用大量的学习任务...
MAML:Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
Glen_Liu
12-09 5515
元学习的目标是在各种学习任务上训练一个可以仅仅使用少量训练样本就可以解决新任务的模型，在本文中，模型的参数训练很明确，所以从新任务的少量样本做几步梯度下降就可以在新任务上得到好的泛化性。同时，由于模型可应用于一系列使用梯度下降训练的模型，包括分类，回归，强化学习等等，所以也叫作模型无关的模型。 本文的关键思想在于训练模型的初始参数，使得模型的参数在某个新任务上仅适用少量样本经过一步或者几步梯度下降...
#Paper Reading# Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
John159151的专栏
04-08 415
论文题目: Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks 论文地址: http://proceedings.mlr.press/v70/finn17a 论文发表于: ICML 2017（CCF A类会议） 论文所属单位: OpenAI 论文大体内容： 本文主要提出了与模型无关的Meta Learning框架，能够用于有效解决few-shot learning下的分类、回归、强化学习等问题。 Motivation： 传统
(MAML)Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
binger520886的博客
06-25 244
scfdvbgb
《Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks 》论文总结
Ma_tx
11-20 671
摘要： 我们提出了一种不依赖模型的元学习算法，它与任何梯度下降训练的模型兼容，适用于各种不同的学习问题，包括分类、回归和强化学习。元学习的目标是在各种学习任务上训练一个模型，这样它只需要少量的训练样本就可以解决新的学习任务。在我们的方法中，模型的参数被显式地训练，使得少量的梯度步骤和少量的来自新任务的训练数据能够在该任务上产生良好的泛化性能。实际上，我们的方法训练模型易于微调。结果表明，该方法在...
MAML：Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks论文精读及详解
qq_52053775的博客
10-19 1251
我们提出了一种与模型无关的元学习算法，在这个意义上，它与任何经过梯度下降训练的模型兼容，并适用于各种不同的学习问题，包括分类、回归和强化学习。
MAML算法:Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
qq_38109843的博客
01-07 535
论文：https://www.cs.utexas.edu/~sniekum/classes/RL-F17/papers/Meta.pdf 代码： tensorflow（官方）：https://github.com/cbfinn/maml pytorch：https://github.com/dragen1860/MAML-Pytorch 解析： 什么是元学习？ 文章提出了一种新的元学习 (Meta-learning) 的算法，这种算法与模型无关，从某种意义上说，它可以直接应用于使用梯度下降过程训练的任何学习
Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks Chelsea 论文笔记
qq_30146937的博客
03-24 388
前言 本文提出了一种元学习算法，它与模型无关并且通用性很强，可以直接应用到各种由梯度下降训练的模型上，并且适用于很多学习问题，包括分类，回归和强化学习。本文提出的算法的关键思想是训练模型的初始化参数，这样当模型在处理来自一个新任务的少量数据时，通过一次或几次梯度更新后，模型就能在新任务中表现出较好的性能。本文的元学习算法有以下特点： 不同于以往的元学习方法需要学习更新函数或更新规则，本文的方法既...
MAML: Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks (模型无关的元学习用于快速适应深度网络)
CaoChengtai的博客
06-28 8091
目录1. 摘要2. 介绍3. 模型3.1 模型架构3.1.1 注意力机制内核3.1.2 完全上下文 embedding3.2 训练策略4. 其他5. 论文链接 1. 摘要 文章提出了一种概念上简单、灵活、通用的框架用于 few-shot learning 问题。few-shot learning 问题需要分类器必须识别在每个新类只给出几个样本情况下识别新的类（新的类是指在训练阶段没有见过的类）。文...
【论文翻译】Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks
weixin_40523230的博客
12-16 5857
最近集中火力肝imitation learning。。MAML是一个重要的方法论，写给自己凑活看的。。。。开始 Abstract 本文针对meta-learning提供了一种模型不可知的的算法，适用于任何基于梯度下降的模型，可以应用于不同的学习问题：分类/回归/RL。meta-learning的目标是：“基于不同的任务进行训练，接下来只需要少数训练样本就可以完成新任务”。在“从新任务中获...
model-agnostic meta-learning for fast adaptation of deep networks
最新发布
03-16
Model-agnostic meta-learning for fast adaptation of deep networks（MAML）是一种元学习算法，可以通过学习如何快速适应新任务来改进深度神经网络的性能。与其他传统的深度学习方法不同，MAML不是针对特定的任务...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值