论文:Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks (arXiv:1703.03400v3 [cs.LG] 18 Jul 2017)
MAML解决的就是few-shot learning的问题。few-shot就是在有限的样本上训练后进行测试,那么问题转化为,用有限的样本进行训练使网络快速适应拟合当前的类别,然后进行测试。
那么网络的目标就是:在有限的样本上进行快速拟合。训练网络的目的就是在有限的样本上快速拟合的能力。
由此MAML将每个快速拟合作为目标,所以以task为单位: 每个Task中包含有训练/微调样本(support)和验证/测试样本(query)。训练、测试时都是以task为样本单位输入的。
task就包含了有限样本的快速拟合过程(support,在网络中属于训练微调步骤),然后测试(query)过程。
【注】为了区分训练和测试时的样本类别名称:
- 训练步骤:support表示为训练集,query表示为验证集;
- 测试步骤:support表示为微调集,query表示为测试集。
【训练】:
1. 随机的初始化网络参数