元学习笔记

元学习的主要作用

元学习可以有效的缓解大量调参和任务切换模型重新训练带来的计算成本问题

直接的作用：元学习希望使得模型获取一种学会学习调参的能力，使其可以在获取已有知识的基础上快速学习新的任务。机器学习是先人为调参，之后直接训练特定任务下深度模型。元学习则是先通过其它的任务训练出一个较好的超参数，然后再对特定任务进行训练。

简单来说就是学习去学习的能力

与其他学习的区别

机器学习：训练单位是样本数据，通过数据来对模型进行优化；数据可以分为训练集、测试集和验证集。

迁移学习：迁移学习就是在旧的领域的基础上对新的领域进行学习，找到相似性，就像你学会了man，去学woman之类的

元学习：主要思想是学习其他机器学习方法是如何学习不同任务的，并从中 获取经验或知识，达到比其他方法更加快速地学习不同任务的目的。举一个现实生活的例子。我们教小朋友读英语时，可以直接让他们模仿apple、banana的发音。但是他们很快又会遇到新的单词，例如strawberry，这是小朋友就需要重新听你的发音，才能正确地读出这个新单词。我们换一种方式，这一次我们不教每个单词的发音，而是教音标的发音。从此小朋友再遇见新单词，他们只要根据音标，就可以正确地读出这个单词。学习音标的过程，正是一个元学习的过程。

在元学习中，训练单位是任务，一般有两个任务分别是训练任务（Train Tasks）亦称跨任务（Across Tasks）和测试任务（Test Task）亦称单任务（Within Task）。训练任务要准备许多子任务来进行学习，目的是学习出一个较好的超参数，测试任务是利用训练任务学习出的超参数对特定任务进行训练。训练任务中的每个任务的数据分为 Support set 和 Query set；Test Task 中数据分为训练集和测试集。

————————————————

参考链接：https://blog.csdn.net/c9Yv2cf9I06K2A9E/article/details/121413057