SimpleShot: Revisiting Nearest-Neighbor Classification for Few-Shot Learning 论文笔记

前言

目前大多数小样本学习器首先使用一个卷积网络提取图像特征，然后将元学习方法与最近邻分类器结合起来，以进行图像识别。本文探讨了这样一种可能性，即在不使用元学习方法，而仅使用最近邻分类器的情况下，能否很好地处理小样本学习问题。

本文发现，对图像特征进行简单的特征转换，然后再进行最近邻分类，也可以产生很好的小样本学习结果。比如，使用DenseNet特征的最近邻分类器，在结合均值相减（mean subtraction）和L2归一化之后，其性能优于目前流行的更复杂的小样本学习方法。使用其它卷积神经网络的特征也能得到同样的结果。

本文的小样本学习器称为SimpleShot，作者希望将最近邻分类重新确立为小样本学习的一个baseline。

---

实现方法

定义输入图像为$I$，假设给定一个训练集 D b a s e = { ( I 1 , y 1 ) , . . . , ( I N , y N ) } D_{base}=\lbrace(I_1,y_1),...,(I_N,y_N)\rbrace Dbase​={ (I1​,y1​),...,(IN​,yN​)}，它包含$A$个base class，共有$N$个带标记的图像，也就是说 y n ∈ { 1 , . . . , A } y_n \in \lbrace 1,...,A\rbrace