SimpleShot: Revisiting Nearest-Neighbor Classification for Few-Shot Learning 阅读笔记

摘要：

        本文研究了不需要元学习的最近邻基线的准确性。令人惊讶的是，我们发现简单的特征转换足以获得具有竞争力的少量学习精度。例如，我们发现，在miniImageNet数据集上，结合使用均值减法和l2归一化的最近邻分类器在五个设置中的三个设置中优于先前的结果。

简介

       本文探讨了这样一种可能性，即在不使用元学习方法，而仅使用最近邻分类器的情况下，能否很好地处理小样本学习问题。本文发现，对图像特征进行简单的特征转换，然后再进行最近邻分类，也可以产生很好的小样本学习结果。比如，使用DenseNet特征的最近邻分类器，在结合均值相减（mean subtraction）和L2归一化之后，其性能优于目前流行的更复杂的小样本学习方法。使用其它卷积神经网络的特征也能得到同样的结果。

最近邻小样本学习：

        我们研究了一种基于最近邻分类的少数镜头学习器，称为SimpleShot。使用带有参数θ的卷积网络fθ(I)，最近邻分类器对从图像I中提取的特征x∈RD进行操作。对产生特征的卷积网络fθ(I)进行训练，使Dbase上的线性分类器(最后一层网络W∈RD×A)的损失最小化:

最近邻使用距离度量（本文使用欧氏距离）找到最接近的support img。

特征转换：

我们只考虑两个已经确定的、可能被认为是微不足道的特征转换，但根据经验，我们发现它们对SimpleShot少镜头学习器的准确性有积极的影响。

​​​​​​​