元学习MAML算法详解

最新推荐文章于 2025-03-22 18:35:50 发布
最新推荐文章于 2025-03-22 18:35:50 发布
阅读量8.7k 收藏 42
点赞数 9
分类专栏： 元学习 文章标签： 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45521594/article/details/107980137
版权

Meta learning

Meta learning 基本定义

元学习：又称“学习如何学习”，就像我们人类学习新知识往往从以往得经验出发而很少从头开始一样，元学习以一种系统得、数据驱动得方式从先前得经验中学习，是一个可用于描述所以基于其他先前任务经验来学习的方法的概念。学习学习的方法

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

MAML and Model Pre-training

区别：
MAML：MAML的loss是训练后的结果在评估模型上计算得到
Pre-training：loss在预训练上的模型上计算的

在这里插入图片描述

为了进一步区分两者，MAML在意训练后KaTeX parse error: Undefined control sequence: \thea at position 6: \hat{\̲t̲h̲e̲a̲}^{n}表现得好，如图处，对task1和task2都下降很快
MAML：

  • MAML注重找到一个任务最优点，对于所有的任务都能较快收敛，关注于潜力都不关注于此时任务上的收敛情况

  • 在MAML中找到的 ϕ \phi ϕ在task1上不是全局最优解，但是他在两个任务上都下降很快
    Pre-training：

  • 预训练在训练任务上找最优，收敛

  • 在Pre-training在task1上找到全局最优作为初始值可能就在task2上陷入局部最优

在这里插入图片描述

在图中Model Pre-training在所有task上都最好
在这里插入图片描述
两者就像刚毕业学生一样，Model Pre-training就是直接毕业工作拿工资，对于当前是很好，MAML相当于去读博，有了高学历对于以后发展会很好。

在这里插入图片描述

Example

在这里插入图片描述
可以看到

  • Model Pre-training，学习到的网络初始参数预测出来的是绿色曲线，找到不同的sin函数上都好的，而不同sin函数叠加起来波峰与波谷抵消，为了使每个任务上都好最后得到一条近乎水平的线，所以用transfering learning在新任务上用这几个点迭代几次依然不好
  • 而MAML学习到了初始参数预测有一些波动，在经过几个训练点上几次迭代很快就能拟合到橙色曲线。
    在这里插入图片描述
    https://towardsdatascience.com/paper-repro-deep-metalearning-using-maml-and-reptile-fd1df1cc81b0

Two way one shot
在这里插入图片描述

理论证明

在这里插入图片描述
算法分析

  • 给定task分布，由于MAML执行两次梯度更新，所以可以设置两个学习率
  • 第一步随机初始化参数
  • 2，相当于epocjh
  • 3，采batch task
  • 4-7在采的task上计算梯度
  • 8在第一次所有采样任务上再算一次梯度，然后将梯度方向作用于 θ \theta θ

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

Reptile

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

元学习应用

在这里插入图片描述

迁移学习其实也可以算元学习的一种，但是更多关注于两个相似模型上的关联性，其原理更多偏向于预训练，而不是元学习的典型算法MAML，迁移学习可以称为单独的一种学习方式

在这里插入图片描述

在这里插入图片描述

变形

在这里插入图片描述

在这里插入图片描述

问题
在这里插入图片描述

解决
在这里插入图片描述

在这里插入图片描述

Meta Learning：元学习模型MAML和Reptile详解
捡起一束光的博客
01-16 8877
元学习常见模型MAML要做的事情是学习一个“好”的初始化参数。以前我们是训练一个模型，然后让这个模型的参数\thetaθ最优，而现在我们训练MAML是希望初始化参数\phi最优，这样就可以实现“快速学习”（使用来自新任务的少量数据就能解决学习任务，而且只需要几步梯度下降就能得到好的泛化效果......
元学习—MAML模型Pytorch实现
04-21 1774
之前，我们介绍了MAML模型的基本原理和基本流程元学习—模型不可知元学习(MAML），这里简单的从零开始来实现一个MAML模型。这里我们通过随机生成数据来定义十个回归任务，其中每一个回归任务的训练样本数量和测试的样本数量均为10个。为了便于展示，这里采用的单层神经网络来实现每一个回归任务。具体可以参考下面的代码展示。 代码： #encoding=utf-8 import torch import torch.nn as nn import torch.optim as optim import n.
MAML算法详解（元学习）
小刘的博客
02-28 2068
本文介绍了基于元学习的算法MAML，MAML目标是训练一组初始化参数，模型通过初始化参数，仅用少量数据就能实现快速收敛的效果。为了达到这一目的，模型需要在不同任务上进行学习来不停修正初始化参数，使其能够适应不同种类的数据，最后对MAML和预训练模型进行了对比。
PyTorch 深度学习实战（21）：元强化学习与 MAML 算法
最新发布
m0_60414444的博客
03-22 955
本文实现了元强化学习的核心范式——MAML 算法，展示了策略快速适应新任务的能力。高效探索策略结合 Proximal Policy Optimization (PPO) 或 Soft Actor-Critic (SAC) 提升采样效率多模态任务适应使用条件策略网络处理离散任务类型在下一篇文章中，我们将探索多智能体强化学习（MARL），并实现 MADDPG 算法！注意事项完整训练需要 GPU 加速（推荐显存 ≥ 8GB）
浅析MAML算法1
08-03
浅析MAML算法1
深度探索：机器学习中的MAML算法（探索快速适应新任务的元学习之旅）原理及其应用
qq_51320133的博客
04-14 2632
MAML算法作为元学习领域的代表性工作，通过寻找能够快速适应新任务的元初始化参数，为模型赋予了强大的泛化能力和样本效率。尽管面临计算复杂度、内存需求和收敛性等方面的挑战，但其通用性强、适应速度快的特点使其在小样本学习、强化学习、医疗诊断等领域展现出巨大潜力。未来的研究方向可能包括：优化MAML的计算效率，如使用二阶优化方法、模型压缩等技术；探索更高级的元学习策略，如元学习与无监督学习、迁移学习等的结合；将MAML应用于更多实际问题，推动其在人工智能各领域的广泛应用。随着研究的深入和技术的发展，MAML及其衍
(二)元学习算法MAML简介及代码分析
机器人视觉感知
04-22 1万+
元学习算法MAML简介1.元学习(meta learning)2.模型无关元学习2.1 元学习问题建模2.2 MAML算法3.将MAML应用到回归分类任务上的算法流程参考资料 论文： Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks Chelsea 代码： https://github.com/cbfinn/maml ICML2017的一篇论文，作者Chelsea Finn是斯坦福的老师，一步小心去作者主页看了下，MIT和
元学习—模型不可知元学习(MAML）
hei653779919的博客
10-16 6455
元学习—模型不可知元学习(MAML) 在之前的文章中，我们介绍了神经图灵机和记忆增强网络(MANN)，主要介绍了其对于内存中信息的读取与写入。有兴趣的读者可以参考我之前的博客元学习—神经图灵机。在今天的文章中，我们来介绍一种更加常见的元学习的学习方法，即模型不可知元学习。 1. MAML原理 1.1 MAML引入 MAML是一种最近被提出的，最为主流的一种元学习的方法。其是元学习上的一个重大突破。在元学习中，众所周知，其目标是学会学习。在元学习中，我们从大量的相关学习任务中获取一小部分的样本点，然后通过元学
元学习入门必备：MAML(背景+论文解读+代码分析)
热门推荐
qq_36317312的博客
12-13 3万+
论文题目：Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks 模型不可知元学习在深度网络快速自适应中的应用 论文是2017年发表在ICML上的，目前被引用量也超过4600+，值得大家进行学习。 Abstract 通过论文题目，我们会有一个大致的了解，Model-Agnostic(模型无关)、Fast Adaptation（快速适应）、Deep Networks（深度网络），可以看出这篇文章是适用于深度网络并且提出一种与模型.
元学习 (Meta-Learning) 算法详解与PyTorch实现
qq_42568323的博客
01-07 1185
元学习（Meta-Learning）是一种通过学习如何学习的方法，旨在使模型能够快速适应新任务。元学习的核心思想是通过在多个任务上进行训练，使模型能够在新任务上快速学习并表现良好。元学习广泛应用于Few-Shot Learning、迁移学习、强化学习等领域。Omniglot数据集是一个经典的手写字符数据集，包含50个字母表中的1623个字符，每个字符有20个样本。目标是识别图像中的字符类别。
一切皆是映射：MAML算法原理与应用
AI大模型应用之禅
12-09 895
MAML, 元学习, 迁移学习, 算法原理, 应用场景, 代码实现 1. 背景介绍 在机器学习领域，模型的训练通常需要大量的标注数据和大量的计算资源。然而，现实世界中，获取大量标注数据往往困难且昂贵，而模型的训练成本也日益高昂。为了解决这些问题，元学习 (Meta-Learning)
元学习的好奇心算法（Meta-learning curiosity algorithms）.pdf
03-13
我们假设好奇心是进化过程中发现的一种机制，它鼓励个体在生命早期进行有意义的探索，从而使个体接触到能够在其一生中获得高回报的经历。我们将产生好奇行为的问题表述为元学习的问题之一:一个外环将在一个好奇心机制的空间中搜索，该机制动态地适应代理的奖励信号，而一个内环将使用适应的奖励信号执行标准的强化学习。
MAML-JAX: JAX中实现模型无关的元学习算法详解
MAML算法可能会被集成到更多的机器学习框架中，并在实际应用中得到更广泛地测试和优化。此外，maml-jax项目也可能随着JAX库的更新而增加新的功能和改进现有性能。在学术研究和工业应用中，MAML和相关元学习算法将...
元学习入门详解（MAML算法及Reptile算法复现）
山里娃的博客
08-26 5486
元学习以及常用的元学习算法介绍
元学习入门：MAML
王小波的博客
07-21 1万+
Meta Learning 的算法有很多，有些高大上的算法可以针对不同的训练任务，输出不同的神经网络结构和超参数，例如 Neural Architecture Search (NAS) 和 AutoML。这些算法大多都相当复杂，我们普通人难以实现。另外一种比较容易实现的 Meta Learning 算法，就是本文要介绍的 MAML 和 Reptile，它们不改变深度神经网络的结构，只改变网络的初始化参数。 训练神经网络的第一步是初始化参数。当前大多数深度学习框架都收录了不同的参数初始化方法，例如均匀分布、
【论文解读】元学习：MAML
RL小站
09-11 1219
元学习的目标是在各种学习任务上训练模型，这样它就可以只使用少量的训练样本来解决新任务。论文所提出的。该算法与任何用梯度下降训练的模型兼容，适用于各种学习问题，包括分类、回归和强化学习。论文中表明，该算法在基准上达到了SOTA的性能，在上也产出了良好的结果，。
元学习——MAML模型
qq_44906973的博客
04-15 1818
meta-learning即元学习，也可以称为“常见的深度学习模型，目的是学习一个用于预测的数学模型。元学习面向的不是学习的结果，而是学习的过程。其学习的不是一个直接用于预测的数学模型，而是学习“如何更快更好地学习一个数学模型”。
MAML（Model-Agnostic Meta-Learning）是一种元学习算法，其主要目标是让模型能够通过少量的训练数据和几次梯度更新，在新任务上迅速获得良好的性能。
qlkaicx的博客
10-19 1232
MAML（Model-Agnostic Meta-Learning）是一种元学习算法，其主要目标是让模型能够通过少量的训练数据和几次梯度更新，在新任务上迅速获得良好的性能。MAML的基本思想是优化模型的初始参数，使得在面对新任务时，这些初始参数只需进行少量调整即可适应新任务。
元学习Meta-Learning
逐梦苍穹的博客
09-08 4646
元学习Meta-Learning
MAML算法
03-12
### MAML算法概述 MAML（Model-Agnostic Meta-Learning）是一种元学习方法，旨在使模型能够快速适应新的任务。该算法的核心思想是在大量不同但相关联的任务上进行训练，从而获得一组初始参数，这组参数能够在遇到新任务时仅需少量梯度更新就能达到较好的性能[^1]。 对于任何给定的新任务，经过微调后的模型可以迅速调整其权重以优化特定于该任务的目标函数。这种能力特别适合few-shot learning场景，在这些情况下只有有限的数据可用作训练集的一部分[^2]。 然而，值得注意的是尽管MAML表现出色，但它也有局限性：相比于其他类型的元学习技术如基于距离的方法，它确实需要更多的计算资源来处理较大的神经网络架构，并且当面对非常大规模的问题时可能会遇到困难[^3]。 ```python import torch from torch import nn, optim class SimpleNN(nn.Module): def __init__(self): super(SimpleNN, self).__init__() self.fc = nn.Linear(784, 10) def forward(self, x): return self.fc(x.view(-1, 784)) def maml_train(model, tasks, inner_lr=0.01, meta_lr=0.001, K=5): optimizer = optim.Adam(model.parameters(), lr=meta_lr) for task in tasks: # Prepare data and clone model parameters X_task, y_task = get_data_for_task(task) fast_weights = {name: param.clone() for name, param in model.named_parameters()} # Inner loop (adaptation on the current task) for _ in range(K): logits = model(X_task) loss = F.cross_entropy(logits, y_task) grads = torch.autograd.grad(loss, model.parameters()) for i, (name, param) in enumerate(model.named_parameters()): fast_weights[name] = param - inner_lr * grads[i] # Outer loop update using adapted weights from all tasks with higher.innerloop_ctx(model, copy_initial_weights=False) as (fmodel, diffopt): fmodel.load_state_dict(fast_weights) logits_meta_test = fmodel(X_task) loss_meta_test = F.cross_entropy(logits_meta_test, y_task) optimizer.zero_grad() loss_meta_test.backward() optimizer.step() # Note: This is a simplified version of MAML training process. ``` 此代码片段展示了如何使用PyTorch实现简单的MAML框架来进行元训练。这里定义了一个基本的全连接层作为演示用途的基础分类器，并实现了内外循环机制用于模拟多个任务的学习过程。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

pinn山里娃

原创不易请多多支持

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值