Coursera - 机器学习基石 - 课程笔记 - Week 3

Types of Learning

Learning with Different Output Space

• 二元分类：输出结果只有两个（是非题）
• 多元分类：输出的结果数量有$K$个（单选题）
• 回归：输出一个实值结果
• 结构化学习：输入到一个结构化结果（一个分类标签序列），可以视为“没有显式类别定义的多标签分类问题”

Learning with Different Data Label

• 监督式学习：每一个样本${\mathbf{x}}_n$都有其对应的标签$y_n$
• 无监督式学习：样本没有对应的标签，通过聚类完成分类
  • 聚类
  • 密度估计
  • 离群值估计
• 半监督学习：只有部分样本有其对应的标签（标签获取代价很大的情形）
• 强化学习：系统由输入得到输出，根据输出的好坏提供奖励以实现训练

Learning with Different Protocol

• 批：送入系统演算法并产生一个目标$g$的一组数据
• 线上学习：样本逐个地喂入系统，不断地预测和更新（PLA，强化学习）
• 成批学习和线上学习中，系统都是被动学习
• 主动学习：机器采取问问题的方式，从样本中（有策略地）跳出一些或一个，并向训练者求证结果

Learning with Different Input Space

• 具体特征：输入$\mathcal{X}\in {\mathbb{R}}^d$的每一维都有明确的物理定义
• 原始特征：基础输入，具有十分简单的实际意义，可能需要人来对原始特征进行转换，以得到具体特征（学习难度通常会更高）
• 抽象特征：每一个维度信息没有任何的实际意义，需要特征转化