机器学习西瓜书学习笔记--第一章 绪论

关键内容

参考：西瓜书笔记

1. 根据训练数据有无标记信息，学习任务可分为：监督学习和无监督学习，分类和回归是前者的代表，聚类是后者的代表。
2. 通过学习得到的模型对应了假设空间中的一个假设，但不同的假设可能都能在训练集上得到一样的结果，同时对于新样本不同的假设可能产生不同的结果。这时候算法的偏好就起到了很大的作用。任何机器学习算法都有其必有的归纳偏好，最常见的规则是奥卡姆剃刀：即若有多个假设与观测一致，则选择最简单的那个。
3. 没有免费午餐定理：不存在一个集线器学习算法对搜索空间里的所有问题都有效，如果一个算法对某些问题有效，则一定在另一些问题上比随机搜索算法表现更差，也就是说，不能脱离实际问题谈论算法的优越性。

参考：

西瓜书
https://github.com/Sophia-11/Machine-Learning-Notes/tree/master/ch1