第30课：从有监督到无监督：由 KNN 引出 KMeans

从有监督学习到无监督学习

有监督学习和无监督学习，是机器学习两个大的类别。我们之前一直讲得都是有监督学习，毕竟有监督学习还是现阶段机器学习在实际应用中的主流。

关于有监督学习和无监督学习的区别，在第5课里有过讲解。在此，进一步说明下。

有监督学习（Supervised Learning）

所谓有监督学习，即：

• 训练数据同时拥有输入变量（$x$）和输出变量（$y$）；

• 用一个算法把从输入到输出的映射关系——$y = f(x)$——学习出来；

• 当我们拿到新的数据 $x'$ 后，就可以通过已经被学习出 $f(\cdot)$，得到相应的 $y'$。

有监督学习就像在学校上课——老师给我们留作业，盯着我们做作业，再给我们判作业。

每道作业题（输入变量），都有正确答案（输出变量）；而整个算法运行的过程，就像有一个老师在监督着学生的每个解答，跟随指导，一旦出现错题立刻予以纠正——把有可能“跑偏”的参数给“拽”回来。

等到老师觉得学生已经掌握了现在的知识，就可以下课了——有监督学习在算法获得可接受的性能之后便停止。

无监督学习（Unsupervised Learning）

无监督学习