Reptile:On First-Order Meta-Learning Algorithms

最新推荐文章于 2024-06-01 03:04:36 发布
最新推荐文章于 2024-06-01 03:04:36 发布
阅读量3.3k 收藏 6
点赞数
分类专栏： meta learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/liuglen/article/details/84933182
版权
Reptile是元学习的一种方法，类似于MAML，但计算成本更低，它寻找适合新任务的神经网络初始化参数。与MAML的两次微分不同，Reptile仅用一次SGD更新，减少了计算和内存需求。该算法在每个任务上使用简单的梯度更新，并使用更复杂的优化器如Adam进行优化，提高了泛化能力。
摘要由CSDN通过智能技术生成

与MAML类似，Reptile是一种寻找神经网络初始化参数的元学习方法，在新任务上只需要少量数据进行 fine-tune。与MAML不同的是，Reptile只需要简单地每个任务上执行SGD而不需要像MAML一样计算两次微分。这使得Reptile消耗的计算量和内存更少。在MAML中，作者也使用了一次微分进行了实验，发现效果是差不多的，虽然看起来是丢失了一些信息，确切的说，本文就是基于FOMAML的。

MAML

在这里插入图片描述
使用训练集优化内层循环，使用测试集优化模型，也就是外层循环
在这里插入图片描述

模型

在这里插入图片描述
Reptile将后面一步替换为了使用 ϕ − W \phi-W ϕ−W作为梯度，并使用更复杂的优化器优化 ϕ \phi ϕ，例如Adam。
同样每次迭代可以使用一个batch的数据进行评估，
ϕ ← ϕ + ϵ 1 n ∑ i = 1 n ( ϕ ~ i − ϕ ) \phi\leftarrow\phi+\epsilon\frac{1}{n}\sum_{i=1}^n(\tilde{\phi}_i-\phi) ϕ←ϕ+

最低0.47元/天 解锁文章
liuglen
关注
专栏目录
元学习之《On First-Order Meta-Learning Algorithms》论文详细解读
seeker的博客
08-08 4910
引言 上一篇博客对论文 MAML 做了详细解读，MAML 是元学习方向 optimization based 的开篇之作，还有一篇和 MAML 很像的论文 On First-Order Meta-Learning Algorithms，该论文是大名鼎鼎的 OpenAI 的杰作，OpenAI 对 MAML 做了简化，但效果却优于 MAML，具体做了什么简化操作，请往下看????。 On First-Order Meta-Learning Algorithms 这篇论文的标题就很针对 MAML，MAML 中有一
一切皆是映射：利用Reptile算法快速优化神经网络
最新发布
AI大模型应用之禅
10-12 16
Reptile算法,神经网络优化,参数映射,快速训练,迁移学习 1. 背景介绍 在深度学习领域，训练高效、鲁棒且泛化的神经网络一直是研究的热点问题。传统的训练方法通常需要大量的标注数据和大量的计算资源，这对于一些特定领域或资源有限的场景来说是一个挑战。近年来，Reptile算法作为一
Reptile: On First-Order Meta-Learning Algorithms
01-20
On First-Order Meta-Learning Algorithms Paper:https://arxiv.org/pdf/1803.02999.pdf Code:https://github.com/openai/supervised-reptile Tips：OpenAi的一篇相似MAML的Meta-learning相关的paper。 （阅读笔记） 1.Main idea 目标旨在实现相同分布的一类任务的少量样本快速学习。This paper considers meta-learning problems, where there is a distribution of t
论文阅读笔记《On First-Order Meta-Learning Algorithms》
深视
06-06 3280
核心思想   本文是在MAML的思路上进一步改进，提出一种基于参数优化的小样本学习算法Reptile。首先我们一起回忆一下MAML是如何进行元学习的，在之前的文章中，我们有提到MAML的训练可以分为两个层次：内层优化和外层优化，内层优化就与普通的训练一样，假设网络初始参数为θ0\theta^0θ0，在数据集AAA上采用SGD的方式进行训练后得到参数θ′\theta'θ′。如果是普通的训练，那么就会接着采样一个数据集BBB，然后以θ′\theta'θ′作为初始参数继续训练了。MAML同样采集一个数据集BBB，
Meta-RL之Reptile算法
Ton的博客
09-25 4994
Reptile算法和MAML一样，是Meta-Learning在学习一种初始化参数上的算法。MAML有二阶和简化版本——一阶FOMAML(First-order MAML)2种形式，而Reptile类似于FOMAML，是一种新型的一阶Gradient-Based 元学习算法。从实现上来看，Reptile比FOMAML还要简单，并且实验结果和FOMAML、MAML相差无几。 Reptile是一篇2018年的论文，作者是Nichol，发布时间在MAML之后。 参考列表： ①Reptile原论文(On First
Meta Learning：元学习模型MAML和Reptile详解
捡起一束光的博客
01-16 6797
元学习常见模型MAML要做的事情是学习一个“好”的初始化参数。以前我们是训练一个模型，然后让这个模型的参数\thetaθ最优，而现在我们训练MAML是希望初始化参数\phi最优，这样就可以实现“快速学习”（使用来自新任务的少量数据就能解决学习任务，而且只需要几步梯度下降就能得到好的泛化效果......
Reptile：简单高效的元学习算法
AI天才研究院
06-01 1140
Reptile：简单高效的元学习算法 1. 背景介绍 1.1 元学习的定义与意义 元学习(Meta-Learning)，又称为"学会学习"(Learning to Learn)，是机器学习领域的一个重要分支。它旨
Meta Learning 入门：MAML 和 Reptile
csyifanZhang的博客
09-08 3102
本文介绍我最近学习的两个 Meta Learning 的算法：MAML 和 Reptile。原始论文分别见：Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks 和 Reptile: a Scalable Metalearning Algorithm 。文章内容结合了李宏毅老师的课程、toy example，以及我个人的理解，可能文字有点多，但力求通俗易懂。 背景 Meta Learning 中文翻译为“元学习”，它研究的不是如何
OpenAI提出Reptile：可扩展的元学习算法
深度学习世界
03-09 1462
选自OpenAI Blog作者：ALEX NICHOL & JOHN SCHULMAN机器之心编译近日，OpenAI 发布了简单元学习算法 Reptile，该算法对一项任务进行重复采样、执行随机梯度下降、更新初始参数直到习得最终参数。该方法的性能可与 MAML（一种广泛应用的元学习算法）媲美，且比后者更易实现，计算效率更高。元学习是学习如何学习的过程。元学习算法会学习任务的一个分布，每项任务都是学
OpenAI发布可扩展的元学习算法Reptile | 论文+代码+Demo
量子位
03-08 1697
安妮 编译自 OpenAI官方博客量子位 出品 | 公众号 QbitAI昨天，OpenAI发布了一种新型的可扩展元学习算法Reptile，还能在线试玩。何为Reptile？难道是——咳咳严肃一点。据OpenAI官方博客显示，这是通过重复对一个任务进行采样、随机梯度下降并将初始参数更新为从任务中学习到的最终参数的算法。这种方法不禁让人想到去年七月伯克利AI研究所关于未知模型元学习法（MAML）的研究
MetaPruning-Meta Learning for Automatic Neural Network Channel Pruning.pdf
10-28
本文提出来一个最新的元学习方法，对非常深的神经网络进行自动化通道剪枝。首先训练出一个PruningNet，对于给定目标网络的任何剪枝结构都可以生成权重参数。我们使用一个简单的随机结构采样方法来训练PruningNet，然后应用一个进化过程来搜索性能好的剪枝网络。这个搜索方法是非常高效的，因为权重直接通过训练好的PruningNet生成，并不需要在搜索时间中进行任何的微调。只需要为目标网络训练处一个简单的PruningNet，我们可以在不同的人工约束下搜索不同的剪枝网络。与当前最先进的剪枝方式相比，MetaPruning在MobileNet V1/V2和ResNet上有着最好的性能表现。
8.7 Meta learning元学习全面理解、MAML、Reptile
炫云云
06-19 1015
文章目录1、介绍few-shot learningreinforcement learning概念Meta learning 三个步骤定义一组learning algorithm损失函数寻找最好的FMeta Learning实例：OmniglotN-way K-shotMAML目标函数MAML vs transfer learningtaskMAML的训练MAML Toy Example算法梯度数学推导真正的实现MAML 应用：TranslationReptile梯度更新过程训练过程More about M
【meta-learning】经典工作MAML和Reptile（demo理解meta-learning机制）
chadlee
01-21 1374
Meta Learning MAML ICML’17 MAML和模型结构、任务无关，唯一的要求只是模型有参数就可以。 MAML产生一个权重的初始化，其他模型再使用少量的样本就能在其基础上进行fine-tuning。因此MAML的输入和作用和Pre-train是相同的。 算法 MAML可以用这张图来说清楚，左图是算法流程中∣Ti∣=1|\mathcal{T}_{i}|=1∣Ti​∣=1的情况。 首先，模型有一个初始化参数θ\thetaθ： 取一个tasks Ti∼p(T)\mathcal{T}_{i} \
一网打尽元学习算法--MAML，Reptile，MetaSGD元学习算法的区别及联系
qlkaicx的博客
04-24 1326
总的来说，不管什么元学习方法，元学习是一种学习如何学习的技术，元学习可以实现对各种任务的快速适应，用较少的样本学习到更好的推理和泛化能力，但实现方式和性能略有差异，应选择适合具体场景的方法。
深入浅出元学习-拆解MAML和Reptile算法「Meta-learning」「AI核心算法」
九三智能控
11-26 2948
关注：决策智能与机器学习，深耕AI脱水干货作者：郑思座来源：知乎专栏地址：https://www.zhihu.com/column/c_1068928500529958912转载请联...
COLING'22 | MetaPrompting：基于元学习的soft prompt初始化方法
zenRRan的博客
12-15 1176
每天给你送来NLP技术干货！论文名称：MetaPrompting: Learning to Learn Better Prompts论文作者：侯宇泰，董泓源，王兴昊，李博涵，车万翔原创作者：董泓源论文链接：https://aclanthology.org/2022.coling-1.287/转载出处：哈工大SCIR点击这里进群—>加入NLP交流群1. 简介Prompt通过将输入文本填入预设p...
贝叶斯角度对MAML的新的理解
DeepMatter的博客
06-08 3793
本文依据文章title： 本文按照文章顺序进行，只抽取笔者认为的重点部分，如有不妥，还请看客给出意见建议一起进步。感兴趣的话，建议去biying原文阅读。 2.1 MAML以及分层贝叶斯表示的回顾 - 元学习作为基于梯度的超参数优化器 参数化的元学习目的是find一些shared参数，当面临novel task时，能够轻松的find适用于该task的参数。 MAML提供了一中基...
Meta-Learning（0）
ML_amateur的博客
11-17 2851
近一段时间来，元学习（Meta-Learning）在深度学习领域获得了广泛的关注。与大部分其他的机器学习算法相比，元学习最突出的特点是“Learning to Learn”,它是要“学会如何学习”，即用机器学习的方法去学习训练方法。 Meta-Learning已经成为继Reinforcement Learning（增强学习）之后又一个重要的研究分支。对于人工智能的理论研究，呈现出了Artifici...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值