机器学习基石——Types of learning

机器学习的几种分类标准

---

按照输出空间分类

• 二元分类（Binary classification）
• 多分类问题（Multiclass classification）
• 回归分析（Regression）
• 结构化学习（structured learning）

---

按照标签（的数量）分类

• 监督式学习（supervised learning）：所有数据都有标签
• 无监督学习（unsupervised learning)：所有数据都无标签
• 半监督学习（semi-supervised）：只有部分有标签
• 强化学习（reinforcement learning：$D=(x,y^{{}^{\prime }},goodness)$

---

按照协议划分

• 批量学习（Batch Learning）：训练数据成批喂给学习器
• 在线学习（Online Learning）：训练数据一条一条喂给学习器，学习器越来越好
• 主动学习（Active Learning）：当带标签的数据很少，且对数据进行人工标代价昂贵时，让机器主动问问题

---

按照输入空间划分

• concetet features（图像的对称性、密度）
• raw features（像素点）
• abstract features（图像的id）