目录
题目与文章脉络
- 题目:《Generalizing from a Few Examples: A Survey on Few-Shot Learning》
- 时间:2020.03.29
- 机构:香港科技大学
- 行文安排:
Section1:介绍(背景,术语)
Section2:概述(FSL定义,相关机器学习问题,核心问题,方法分类)
Section3:数据(数据增强,使FSL可行)
Section4:模型(减小假设空间大小,使FSL可行)
Section5:算法(改变算法搜索策略,使FSL可行)
Section6:未来工作(FSL在问题的设置、技术、应用、理论方面的发展方向)
Section7:结论
S1 介绍
1.1 FSL
Few-Shot Learning
1.2 FSL应用场景
(1)少样本角度:
字符生成
机器人模仿(1次性模仿,多臂强盗,视觉导航,连续控制)
药物的临床效果(隐私,安全,伦理)
FSL翻译,冷启动推荐
(2)大样本角度:
减轻标签数据收集和计算负担
1.3 FSL术语定义
S2 概述
2.1 定义&分类&应用
- 机器学习的定义:
大样本:围棋游戏需要3000万标签数据
-
小样本学习的定义:
-
FSL问题分类:
(1)小样本分类
N-way-K-shot classification: N个类别,每个类K个样本
(2)小样本回归
(3)小样本强化 -
FSL典型应用场景:
(1)模仿人类学习
(2)罕见案例学习
(3)减少数据收集和计算成本。
先验:“学习器在看到例子之前对未知函数的所有信息"
prior:“any information the learner has about the unknown function before seeing the examples"
FSL的典型例子:贝叶斯学习
- 一次学习&零次学习:
one-shot learning & zero-shot learning
2.2 相关机器学习问题
(1)弱监督学习
定义: 不完整、不准确、有噪声的监督信息
分类:
- 半监督——同时使用少量有标签和大量无标签样本学习)
- 主动——无标签样本发给oracle(业务专家,贵&慢),打标签
特点:
- 分类、回归
- 利用无标签样本,作为附加信息
FSL和弱监督学习的区别: