元学习旨在使机器学习如何学习，超越特定任务如语音和图像识别。MAML和Reptile是寻找初始化参数的方法，避免手动定义网络结构和训练策略。在meta learning中，通过构建多个任务，使用support set和query set进行小样本学习。MAML关注训练后能达到最佳性能的初始化参数，而Reptile允许多次更新。在实际应用中，MAML和Reptile在机器翻译等任务上展现出优越性。
meta learn =learn to learn
我们希望机器学习怎样去学习这件事情，就是学会语音辨识、图像辨识以后，它学会了如何去学习学习这件事情，而不是停留在语音和图像的任务上。
就是我们不需要自己去定义网络的结构以及训练策略，而是让机器自己能够找出这个函数，这个函数能够找出一个f，这个f能够处理我们的任务。
我们正常训练网络的步骤如下图所示，定义网络结构，初始化参数，根据梯度更新参数。
那么我们能不能够不用人为定义，而是网络自己去决定初始化参数、网络结构以及更新策略。MAML和reptile都是找初始化参数这样的方法。
我们在进行meta learning时，需要构建很多的任务，并且在每个任务中都有support set （train）和query set（test）。它常常与few-shot learning （小样本学习）搭配使用，因为meta learning 的训练任务很多，因此每个任务的样本很少。
有人在训练
最低0.47元/天 解锁文章
扫一扫
6763
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
