元学习
元学习(meta-learning),或者学会学习(learning to learning),指通过学习一系列相似任务,归纳(抽象)出这些任务的本质规律(通用属性——权重/超参)。当面对全新的任务时,可以根据学得的规律,做微调,便可快速适应。
元学习架构
元学习现状
1 基于模型 model-based
数据一次性喂入,学习1个模型的参数
2 基于度量 metric-based
学习核变换参数
3 基于优化 optimization-based
学习元模型参数
MAML
模型无关的元学习model agnostic meta learning ,包括一个base-model learner和一个meta-learner,每个base-model learner 学习一个specific task,meta-learner学习多个specific task的平均性能θ,作为新任务的初始化参数。
算法原理
所有任务共享初始参数θ,学习