MAML元学习论文集

MAML元学习论文集

Black box(memory model) based

Optimization(Gradient) based (Parametrics)

learn to initialize

• Finn C, Abbeel P, Levine S. Model-agnostic meta-learning for fast adaptation of deep networks[C]//Proceedings of the 34th International Conference on Machine Learning-Volume 70. JMLR. org, 2017: 1126-1135.
  • MAML的源头文章，用于求解分类、回归等多个问题.
• Nichol A, Achiam J, Schulman J. On first-order meta-learning algorithms[J]. arXiv preprint arXiv:1803.02999, 2018.
  • MAML涉及二阶梯度的计算，本文提出了一阶MAML，包括FO-MAML和Reptile，并给出了一些理论分析结果.
• Rajeswaran A, Finn C, Kakade S M, et al. Meta-learning with implicit gradients[C]//Advances in Neural Information Processing Systems. 2019: 113-124.（提出了隐式MAML， 内循环迭代只依赖迭代结果，不依赖迭代过程，减小缓存。）
• Antoniou A, Edwards H, Storkey A. How to train your maml[J], ICLR 2019. (提出了MAML并不稳定这一结论，提出了加强版MAML，针对存在的问题提出了各种trick)
• Rapid learning or feature reuse ? Toward understanding the effectiveness of MAML
• 讨论MAML效果好是因为rapid learning or feature reuse. 最后得出feature resuse是主要原因. 提出了ANIL (Almost No Inner Loop) algorithm，MAML简化版，能达到MAML相似效率，能够改善计算效率.

Non-parametric(Metric based)

learn to compare

hybrid

bayesian
MAML可以找到一种初始值，使得模型可以用少量数据上进行快速学习。

• Yoon J, Kim T, Dia O, et al. Bayesian model-agnostic meta-learning[C]//Advances in Neural Information Processing Systems. 2018: 7332-7342.（提出了 Bayesian MAML，将MAML的思想用于Bayesian后验估计中。）

• Finn C, Xu K, Levine S. Probabilistic model-agnostic meta-learning[C]//Advances in Neural Information Processing Systems. 2018: 9516-9527.（任务间的学习可能会产生矛盾，本文提出了基于概率分布进行task采样的元学习方法，推广了MAML。 ）

• 经典文献

• Fallah A, Mokhtari A, Ozdaglar A. On the Convergence Theory of Gradient-Based Model-Agnostic Meta-Learning Algorithms[J]. arXiv preprint arXiv:1908.10400, 2019.（分析了MAML的复杂度，梯度下降算法收敛性分析的那一套分析工具，比较系统，值得一读。）

• Ji K, Yang J, Liang Y. Multi-Step Model-Agnostic Meta-Learning: Convergence and Improved Algorithms[J]. arXiv preprint arXiv:2002.07836, 2020.（同上一篇一脉相承，分析了多步MAML求解非凸问题的收敛性。）

• Raghu A, Raghu M, Bengio S, et al. Rapid learning or feature reuse? towards understanding the effectiveness of maml[J]. arXiv preprint arXiv:1909.09157, 2019.（ 顾名思义。）

• Xu R, Chen L, Karbasi A. Meta Learning in the Continuous Time Limit[J]. arXiv preprint arXiv:2006.10921, 2020.（从ODE的角度分析了MAML，同时提出了BIMAML，利用了梯度流。）

• 最新文章（倒序）

  • 待补充

• Wang H, Sun R, Li B. Global convergence and induced kernels of gradient-based meta-learning with neural nets[J]. arXiv preprint arXiv:2006.14606, 2020.（阐释了MAML with DNN 是否有全局收敛保证，以及MAML如何快速适用于DNN，可以借鉴。）

• Lekkala K, Itti L. Attentive Feature Reuse for Multi Task Meta learning[J]. arXiv preprint arXiv:2006.07438, 2020. （将注意力机制用于多任务的同步学习。）

• Frikha A, Krompaß D, Köpken H G, et al. Few-Shot One-Class Classification via Meta-Learning[J]. arXiv preprint arXiv:2007.04146, 2020.（基于MAML提出了OCC(one-class classification)问题的预训练方法并理论分析了为什么所提算法比MAML更适用于这个问题，可借鉴其分析）

• Raj P, Namboodiri V P, Behera L. Learning to Switch CNNs with Model Agnostic Meta Learning for Fine Precision Visual Servoing[J]. arXiv preprint arXiv:2007.04645, 2020.（应用类，将CNN用于高精度Visual Servoing?）

  • Zheng Y, Xiang J, Su K, et al. BI-MAML: Balanced Incremental Approach for Meta Learning[J]. arXiv preprint arXiv:2006.07412, 2020.（提出了增量式MAML算法，更新规则是在不遗忘旧任务的同时适应于新任务，实验效果很不错。）

• Wijekoon A, Wiratunga N. Learning-to-Learn Personalised Human Activity Recognition Models[J]. arXiv preprint arXiv:2006.07472, 2020.（应用类，将MAML用于Human Activity Recognition问题。）

• Ma N, Bu J, Yang J, et al. Few-Shot Graph Classification with Model Agnostic Meta-Learning[J]. arXiv preprint arXiv:2003.08246, 2020.(应用类，将MAML用于GCN。)

• Rajasegaran J, Khan S, Hayat M, et al. iTAML: An Incremental Task-Agnostic Meta-learning Approach[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2020: 13588-13597.（与MAML非常类似，算法过程几乎一致，但是文章号称有所区别，觉得很奇怪，待阅读。。。）

• Kang J, Liu R, Li L, et al. Domain-Invariant Speaker Vector Projection by Model-Agnostic Meta-Learning[J]. arXiv preprint arXiv:2005.11900, 2020.(将MAML用于语音识别)

• Lingxiao Wang, Qi Cai, Zhuoran Yang, Zhaoran Wang. On the Global Optimality of Model-Agnostic Meta-Learning, ICML, 2020.（提出了meta-RL算法用于求解RL问题，分析了$ϵ$-stationary point 同Optimal set 的距离误差界）

• Igor Molybog, Javad Lavaei. Global Convergence of MAML for LQR, https://arxiv.org/abs/2006.00453, 2020.(文章分析了利用MAML求解sigle-task问题的全局收敛性，只证明了某几种简单情形，其他的收敛性分析也许可以挖掘。。。)

• Liu Z, Zhang R, Song Y, et al. When does MAML Work the Best? An Empirical Study on Model-Agnostic Meta-Learning in NLP Applications[J]. arXiv preprint arXiv:2005.11700, 2020.（文章调研了MAML在NLP问题中的适用性，因为MAML初始化结果随机性很强，所以这个工作有点意思，不过此篇做的非常粗略。）

• Yap P C, Ritter H, Barber D. Bayesian Online Meta-Learning with Laplace Approximation[J]. arXiv preprint arXiv:2005.00146, 2020.（利用一个Bayesian online meta-learning framework克服MAML的灾难性遗忘问题。）

---

Frequency analysics

• Fourier Features Let Networks Learn High Frequency Functions in Low Dimensional Domains
  • 实验发现标准MLP较难学习到高频信号，提出利用对输入进行Fourier Transfrom输入Fouruer Fearture后输入学习能提升MLP对高频的学习，提高MLP网络性能
• Understanding training and generalization in deep learning by Fourier analysis详解
  • 用傅里叶分析方法研究了DNN训练. 理论框架说明:采用(随机)基于梯度的方法的DNN在训练过程中往往赋予目标函数的低频分量更高的优先级;i较小的初始化使DNN具有良好的泛化能力，同时保持了DNN拟合任意函数的能力. 即神经网络低频先收敛，高频再收敛.
• Training behavior of deep neural network in frequency domain
• 重点研究DNNs训练过程中隐含的bias，在这项工作中，经验性地认为DNN先快速捕获占主导的低频components，然后相对更慢的捕获高频部分. 将这种现象称为Frequency Principle (F-Principle)。通过不同的DNN结构、激活函数、优化算法做了相关实验。这个F-Principle提供了深入了解DNN优化和泛化的一般原理.
• RAPID LEARNING OR FEATURE REUSE? TOWARDS
  UNDERSTANDIxNG THE EFFECTIVENESS OF MAM
• Rapid learning or feature reuse ? Toward understanding the effectiveness of MAML
• 讨论MAML效果好是因为rapid learning or feature reuse. 最后得出feature resuse是主要原因. 提出了ANIL (Almost No Inner Loop) algorithm，MAML简化版，能达到MAML相似效率，能够改善计算效率.