论文分享：2020小样本学习综述

题目与文章脉络

• 题目：《Generalizing from a Few Examples: A Survey on Few-Shot Learning》
• 时间：2020.03.29
• 机构：香港科技大学
• 行文安排：
  Section1：介绍（背景，术语）
  Section2：概述（FSL定义，相关机器学习问题，核心问题，方法分类）
  Section3：数据（数据增强，使FSL可行）
  Section4：模型（减小假设空间大小，使FSL可行）
  Section5：算法（改变算法搜索策略，使FSL可行）
  Section6：未来工作（FSL在问题的设置、技术、应用、理论方面的发展方向）
  Section7：结论

S1 介绍

1.1 FSL

Few-Shot Learning

1.2 FSL应用场景

（1）少样本角度：
字符生成
机器人模仿（1次性模仿，多臂强盗，视觉导航，连续控制）
药物的临床效果（隐私，安全，伦理）
FSL翻译，冷启动推荐
（2）大样本角度：
减轻标签数据收集和计算负担

1.3 FSL术语定义

S2 概述

2.1 定义&分类&应用

• 机器学习的定义：
  

大样本：围棋游戏需要3000万标签数据

• 小样本学习的定义：
  

• FSL问题分类：
  （1）小样本分类
  N-way-K-shot classification： N个类别，每个类K个样本
  （2）小样本回归
  （3）小样本强化

• FSL典型应用场景：
  （1）模仿人类学习
  （2）罕见案例学习
  （3）减少数据收集和计算成本。

先验：“学习器在看到例子之前对未知函数的所有信息"
prior：“any information the learner has about the unknown function before seeing the examples"
FSL的典型例子：贝叶斯学习

• 一次学习&零次学习：
  one-shot learning & zero-shot learning
  

2.2 相关机器学习问题

（1）弱监督学习

定义： 不完整、不准确、有噪声的监督信息

分类：

• 半监督——同时使用少量有标签和大量无标签样本学习)
• 主动——无标签样本发给oracle（业务专家，贵&慢），打标签

特点：

• 分类、回归
• 利用无标签样本，作为附加信息

FSL和弱监督学习的区别：