01 小样本学习 概述

一、前言

小样本学习（Few-Shot Learning）是近几年兴起的一个研究领域，小样本学习旨在解决在数据有限的机器学习任务[参考]。

1.1 小样本学习存在的意义？

近些年，以深度卷积神经网络为代表的深度学习方法在各类机器学习任务上取得了优异的成绩——很多任务上已经超越了人类表现。狂欢背后，危机四伏。因为这些深度学习方法work的关键之一是海量标注数据的支持。

但是在工业界，很多时候难以获得海量的训练数据，更别提还要标注了。这里我脑洞一下：不久的将来，深度学习会沦为高科技公司和大型科研机构的专属玩具——因为小公司、小科研机构根本无法接触到高品质的、海量的数据。那么，有没有一种方法可以让我们只需要少量的样本，就能训练出良好的模型呢？于是，小样本学习就登上了历史舞台。

实际上，我们人类就比较擅长小样本学习。给人几张不同角度的图片，人就可以对新的图片进行分辨——这种强大的学习能力恰恰是当前深度学习所缺乏的，也是鼓舞我们探索的动力所在。

1.2 什么是小样本学习？

这里给出小样本学习的严格定义，在介绍小样本学习之前，我们先看机器