12、【李宏毅机器学习（2017）】Semi-supervised Learning（半监督学习）

在前面的博客中主要介绍的算法全部都是监督学习的算法，接下来的博客将开始介绍半监督学习算法。

---

目录

---

半监督学习介绍

半监督学习与监督学习

• 监督学习中的样本中的是已知的，所以监督学习算法可以在训练集数据中充分使用数据的信息
• 半监督学习的样本中只有R个样本的是已知，U个样本的未知，且通常U远大于R
  – Transductive learning ：将未知标签的数据作为测试集数据（用了未知标签的数据的feature）
  – Inductive learning：未知标签的数据不作为测试集数据

$\quad$

半监督学习的用处

一个直观的例子，假设蓝色点代表“猫”，橙色点代表“狗”，灰色点代表未知标签的点，尽管灰色点的标签未知，但是也能帮助我们构建模型。

$\quad$

Semi-supervised Learning for Generative Model

监督学习中的概率生成模型（Supervised Generative Model）

在监督学习中，可以之间计算样本中的类别比率、先验分布，从而计算出后验概率。

$\quad$

半监督学习中的概率生成模型（Semi-supervised Generative Model）

假设绿色为未知标签的数据，蓝色、橘色各表示一类，此时由已知标签的样本数据估计出来的$u^1,u^2,\Sigma$显然是不合理的，以已知标签样本计算$P(C_1)>P(C_2)$，而如果考虑未知标签的样本数据则有可能$P(C_1)<P(C_2)$，因此半监督学习中的概率生成模型要比监督学习中的概率生成模型要复杂得多。

$\quad$

半监督学习中的概率生成模型算法

1. 初始化 θ:=P(C1),P(