LSTM用于元学习-"Learning to learn by gradient descent by gradient descent"-笔记详解

最新推荐文章于 2023-11-11 11:10:09 发布
最新推荐文章于 2023-11-11 11:10:09 发布
阅读量3.8k 收藏 26
点赞数 9
分类专栏： 论文 元学习 文章标签： Meta-Learning 机器学习 深度学习 人工智能 论文
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wangkaidehao/article/details/103376715
版权
本文详细解析了Andrychowicz等人的研究，即使用LSTM学习优化算法，代替手动设定超参数。通过LSTM作为optimizer，学习对optimizee（模型）的参数更新方法。实验包括二次函数、Minist数据集等，展示了解决优化问题的新思路。
摘要由CSDN通过智能技术生成

Andrychowicz, Marcin, et al. “Learning to learn by gradient descent by gradient descent.” Advances in neural information processing systems. 2016.

文章目录

1 简介

这篇文章主要讲用一个额外的LSTM学习出优化算法中以前需要手工设置的超参数。相比于MAML元学习的是模型的初始参数表示，这篇文章则着眼于元学习出一个优化算法。 现在很多方法是针对特定任务来设计优化算法，比如：RMSprop, Adagrad, ADAM等等。但是根据世上没有免费的午餐定律，没有一个特定的优化算法适用于所有的情形。而这篇文章则设计了一个optimizer g g g （本文中使用LSTM）来学习出不同的优化方法。因此参数的更新方法如下：
θ t + 1 = θ t + g t ( ∇ f ( θ t ) , ϕ ) \theta_{t+1}=\theta_t + g_t(\nabla f(\theta_t),\phi) θt+1​=θt​+gt​(∇f(θt​),ϕ)
其中， ϕ \phi ϕ是模型 g g g自身的参数， ∇ f ( θ t ) \nabla f(\theta_t) ∇f(θt​)是optimizee

最低0.47元/天 解锁文章
miguemath
关注
专栏目录
8.8LSTM作为元学习器学习梯度下降
炫云云
06-22 910
文章目录1、介绍2、引入 RNNLSTM3、LSTM变换成梯度下降4、LSTM学习梯度下降实验结果5、梯度下降LSTM +动量实验结果参考资料 本节讨论的是“元学习”，我们将讨论用 LSTM 做优化器的方法。我们所指的训练，是指训练优化器 LSTM 的参数。 1、介绍 我们可以把元学习的过程，当然 RNN 来看。首先复习 RNN 。多数时候，我们说 RNN ，其实就是在用 LSTM 。 比较 LSTM 中的运算与 meta-learning 中的更新式，会发现有一些相似之处。 在实际操作中，我们做了非常大
随机梯度下降 (Stochastic Gradient Descent)
最新发布
程序员光剑
06-18 1080
1. 背景介绍 在机器学习和深度学习中，优化算法是非常重要的一部分，它们用于找到最优的模型参数，以最小化损失函数。随机梯度下降（Stochastic Gradient Descent，SGD）是一种常用的优化算法，它通过随机选择数据样本的梯度来更新模型参数，因此得名。在这篇文章中，我们将深入探讨随机梯度下降的原理、实现和应用。
Learning long-term dependencies with gradient descent is difficult
05-03
使用梯度下降方法学习循环神经网络中的长期依赖是困难的
Learning to learn by gradient descent by gradient descent - PyTorch实践
热门推荐
senius的博客
11-25 1万+
原创博文，转载请注明来源（csdn or blog） 引言 Learning to learn，即学会学习，是每个人都具备的能力，具体指的是一种在学习的过程中去反思自己的学习行为来进一步提升学习能力的能力。这在日常生活中其实很常见，比如在通过一本书来学习某个陌生专业的领域知识时（如《机器学习》），面对大量的专业术语与陌生的公式符号，初学者很容易看不下去，而比较好的方法就是先浏览目录，掌握一些简...
机器学习-46-ML-02-Gradient Descent as LSTM(元学习-用LSTM做Gradient Descen)
迷雾总会解
01-19 776
上次说到meta learning是在训练一个learning algorithm。使用的方法是梯度下降，这次我们研究如何将这个learning algorithm看作是一个LSTM，我们通过训练这个LSTM网络来实现我们的meta learning。
Learning to learn by gradient descent by gradient descent 笔记
alva_bobo的博客
11-16 2488
转载地址：https://zhuanlan.zhihu.com/p/21362413 什么意思呢？就是用梯度下降的方法学会了梯度下降的学习方法。 用一个神经网络来调控另一个神经网络！ 怎么做？如上图，一个是神经网络优化器，一个是被优化的神经网络，也就是我们平时都用的神经网络。这里我们把数据输入到被优化的神经网络中，然后输出误差，把误差信号传给神经网络优化器，这个优化器就自己计算输出参
Learning to learn by gradient descent by gradient descent||元学习||自动学习优化器的设计
VIEO
05-05 749
元学习论文总结||小样本学习论文总结 2017-2019年计算机视觉顶会文章收录 AAAI2017-2019 CVPR2017-2019 ECCV2018 ICCV2017-2019 ICLR2017-2019 NIPS2017-2019 参考：Learning to learn by gradient descent by gradient descent - PyTorch实践...
Learning to Learn without Gradient Descent by Gradient Descent论文解析（黑箱优化问题）
migue_math
03-28 1362
本篇论文属于元学习和黑箱函数优化的交叉领域，其中将元学习的思想应用于黑箱函数优化。这篇论文发表于2017年。 对于黑箱函数优化方法我了解的不太多，因此本文的不可避免的会有一些理解不到位的地方。 想要了解贝叶斯优化和高斯过程的，可以看我翻译的两篇文章： 高斯过程是什么? 贝叶斯优化如何工作？ 1 Introduction 发展心理学表明婴儿具有多个针对核心知识的分散的系统，通过这些系统，他们可以...
【李宏毅2020 ML/DL】补充：Meta Learning - Gradient Descent as LSTM
记录学习痕迹的公众号：Piper蛋窝
08-12 1086
本节讨论的是“元学习”，我们将讨论用 LSTM 做优化器的方法。我们所指的训练，是指训练优化器 LSTM 的参数。
机器学习 -- Gradient Descent
01-30
Gradient Descent Review: Gradient Descent Tip 1: Tuning your learning rates Adaptive Learning Rates Adagrad Contradiction Intuitive Reason Larger gradient, larger steps
Learning to learn by gradient descent by gradient descent
绕池闲步看鱼游，正值儿童弄钓舟。
04-08 3260
Learning to learn by gradient descent by gradient descent简介昨天DeepMind开源了基于TensorFlow的深度学习库——Sonnet。DeepMind之前发布的learning to learn的代码实际上就是基于Sonnet实现的。本文解决的是优化算法的学习问题。具体来说，机器学习中我们经常可以把优化目标表示成：标准的优化过程是更新如
【论文阅读】Learning to learn by gradient descent by gradient descent-通过梯度下降学习如何学习梯度下降
qq_56483157的博客
11-11 214
本文将优化算法的设计视作一个学习问题，通过LSTM实现的学习算法，使得算法能够自动学习如何利用所关注问题中的结构，其表现优于手工设计的算法，并且有很好的泛化能力。
Learning to Learn by Gradient Descent by Gradient Descent网络前向计算图
Keith
08-23 797
Learning to Learn By Gradient Descent by Gradient Descent 前向计算图（黄色线表示梯度流动方向） Optimization as a Model For Few-Shot Learning前向计算图（黄色表示梯度流动方向） ...
论文分享（4）---- OPTIMIZATION AS A MODEL FOR FEW-SHOT LEARNING)----元学习meta-lstm
qq_18838211的博客
05-03 1173
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 论文分享（4）---- OPTIMIZATION AS A MODEL FOR FEW-SHOT LEARNING摘要一、问题定义二、Model1. 模型定义2. 模型参数共享和预处理3. 梯度更新简化总结 摘要 尽管深度学习在数据量充足的领域已经取得了很大的成功，但是它们很难在数据量匮乏的情况下发挥。这是因为现有的优化策略都是基于梯度进行更新，由于参数量的缘由，这种梯度更新的方式需要更多的step才能达到收敛。针对这一问题，作者提出了.
Meta-RL之Learning to Learn Using Gradient Descent
Ton的博客
09-14 595
Meta-RL是将Meta-Learning结合在强化学习上的学习算法。Meta-RL旨在训练出一个可以泛化到新的task上的学习算法FFF。给定一个新的环境，或者说一个新的MDPMDPMDP，FFF只要在新环境中采样少量样本进行微调，即可快速适应得到最优策略fπ∗f_\pi^*fπ∗​。而fπ∗f_\pi^*fπ∗​就是我们之前用标准RL算法一直在做的一件事。这里以监督学习为例(将分类模型替换成RL中的策略模型πθ\pi_\thetaπθ​就是Meta-RL在做的事)，来理解Meta-RL： Meta-R
元学习gradient descent as LSTM（2）--李宏毅老师课程学习笔记
qq_41694504的博客
05-28 401
我们发现meta learning中的结构与RNN比较相似，具体看下面两篇论文是讲这个的。 RNN是用同一个单元去处理很长的句子，因为每次只吃一个单词。 现在基本用LSTM，通过结构发现Ct的特殊，同时由于它改变较慢，因此LSTM能够储存较长之间之前的词。 复习一下LSTM： 这个图和上面的图进行对比，是LSTM的简化版。 如果把sita t-1 的loss用来更新zi，那么可以多样地调整学习率。 实际的时候，一个LSTM用在所有的参数中。 以前的方法都会用以前的梯度，那我们是不是也能这样。
learning to learn using gradient descent-2001||论文阅读
VIEO
05-19 971
元学习论文总结||小样本学习论文总结 2017-2019年计算机视觉顶会文章收录 AAAI2017-2019 CVPR2017-2019 ECCV2018 ICCV2017-2019 ICLR2017-2019 NIPS2017-2019 2001年，Sepp Hochreiter和AS Younger＆PR Conwell基于Long短期记忆RNN建立了一个成功的监督元学习者。它...
Meta-RL之Learning to Learn by gd by gd
Ton的博客
09-21 727
这篇文章由DeepMind发表于2016年，比MAML的发表要早一些。2001年发表了一篇Learning to Learn Using Gradient Descent，这篇是其进一步的改进与优化。论文标题中就可以看出文章的目的：针对不同的需要用到梯度下降优化的模型，用梯度下降来优化的元学习算法去学习一种对应的梯度下降算法。可能听起来有点难以理解，但看过MAML这篇论文的，就可以把它和MAML放一起看，只不过MAML是通过元学习算法去学习初始化参数，而这篇使用元学习算法去学习一种优化算法。 参考列表： ①
帮我写一个MATLAB的LSTM和PSO-LSTM超参数对比图的代码
06-02
好的，以下是一个简单的MATLAB代码，用于比较LSTM和PSO-LSTM的超参数： ```matlab % Load data load('data.mat'); % Split data into training and testing sets train_data = data(1:800,:); test_data = data(801:end,:); % Define LSTM network architecture num_features = size(train_data,2); num_hidden_units = 10; lstm_net = lstmLayer(num_hidden_units, 'OutputMode', 'last'); output_layer = fullyConnectedLayer(1); regression_layer = regressionLayer; layers = [sequenceInputLayer(num_features), lstm_net, output_layer, regression_layer]; % Train LSTM network using stochastic gradient descent opts = trainingOptions('sgdm', 'MaxEpochs', 100, 'MiniBatchSize', 32, 'LearnRateSchedule', 'piecewise', 'LearnRateDropFactor', 0.1, 'LearnRateDropPeriod', 50); net = trainNetwork(train_data(:,1:end-1), train_data(:,end), layers, opts); % Use LSTM network to make predictions on testing data lstm_predictions = predict(net, test_data(:,1:end-1)); % Define PSO-LSTM network architecture num_particles = 10; num_iterations = 50; c1 = 2; c2 = 2; v_max = 0.1; num_hidden_units = 10; pso_lstm_net = psoLstmLayer(num_hidden_units, 'OutputMode', 'last', 'NumParticles', num_particles, 'MaxIterations', num_iterations, 'C1', c1, 'C2', c2, 'VelocityLimit', v_max); output_layer = fullyConnectedLayer(1); regression_layer = regressionLayer; layers = [sequenceInputLayer(num_features), pso_lstm_net, output_layer, regression_layer]; % Train PSO-LSTM network using stochastic gradient descent opts = trainingOptions('sgdm', 'MaxEpochs', 100, 'MiniBatchSize', 32, 'LearnRateSchedule', 'piecewise', 'LearnRateDropFactor', 0.1, 'LearnRateDropPeriod', 50); net = trainNetwork(train_data(:,1:end-1), train_data(:,end), layers, opts); % Use PSO-LSTM network to make predictions on testing data pso_lstm_predictions = predict(net, test_data(:,1:end-1)); % Plot results figure; plot(test_data(:,end)); hold on; plot(lstm_predictions); plot(pso_lstm_predictions); legend('True', 'LSTM', 'PSO-LSTM'); ``` 请注意，这只是一个简单的示例，可以根据您的需求进行修改。此代码需要一个名为"data.mat"的数据文件，其中包含训练和测试数据。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值