Distribution Consistency Based Covariance Metric Networks for Few-Shot Learning

AAAI2019：
《Distribution Consistency Based Covariance Metric Networks for Few-Shot Learning》
基于分布一致性的协方差度量网络的小样本学习

关键词：度量学习、小样本、协方差

解决的问题：如何充分利用辅助数据来学习和存储可转移的知识？episodic training
如何在小样本设定下精准的表现一个概念？second-order statistic of concept representation
以及如何合理地度量一个概念和一个查询样本之间的关系？Deep Covariance Metric

episodic training：一个episodic就是包含了一个task，task由随机采样获得，如5way-1shot，训练：在训练集中选5个类，每个类1个图片作为支持集，测试：然后再在每个类中选5个图片作为查询集。

网络结构：协方差度量网络（CovaMNet）

局部协方差表示：

这样设定存在两个问题：
1）当n-way 1-shot设定时，k=1等式的处理方式未知
2）小样本设定下（k=1~5）很难保证协方差矩阵的非奇异性，以及精确学习数据分布

因此，作者引入了局部协方差

局部协方差表示解决了“如何在小样本设定下精准的表现一个概念？”这个问题。

协方差度量

模型架构：

数据集：
《miniImageNet》：包含100类，每类600张图片
《Stanford Dogs》：包含120类，共20580张图片
《Stanford Cars》：包含196类，共16185张图片
《CUB Birds》：包含200类，共6033张图片

miniImageNet： 将其中的64类作为训练集（辅助集）、16类作为验证集、20类作为测试集。采用episodic训练机制，共使用30万个task，每个task包含每类15张查询图，每类1张或5张（1 shot/5 shot）支持集图片。
图像大小都为84*84；
初始学习率为0.005，每10万个task降低一半；
测试过程在测试集中选择600个task进行测试。

代码：https://github.com/WenbinLee/CovaMNet.git.