机器学习（周志华）读书笔记---第1章 绪论

*1.1 引言*

*1.2 基本术语*
关键字：
数据集、样本（特征向量）、属性、属性值、属性空间（输入空间）、样本的维数、训练数据（训练集）、假设、真实、标记、标记空间（输出空间）、分类、回归、二分类、正类反类、多分类、测试样本、、聚类、簇、监督学习、无监督学习、泛化能力、独立同分布

关键概念解释：
1.分类对应离散预测，回归对应连续预测
2.根据训练数据是否拥有标签信息，学习任务分为监督学习（如分类和回归）和无监督学习（如聚类）

*1.3 假设空间*

关键字：

归纳、演绎、概念学习、假设、版本空间

关键概念解释：
1.归纳：特殊到一般的泛化，即从具体的事实归结出一般性规律  演绎：一般到特殊的泛化，即从基础原理推演出具体状况
2.学习过程：在所有假设组成的空间进行搜索的过程，搜索目标是找到与训练集匹配的假设
3.版本空间：与训练集一致的假设空间

*1.4 归纳偏好*

关键字：
归纳偏好、奥卡姆剃刀、没有免费午餐定理（NFL）

关键概念解释：
1.归纳偏好：机器学习算法在学习过程中对某种类型假设的偏好
2.奥卡姆剃刀：若有多个假设与观察一致，则选最简单的那个
3.没有免费午餐定理（NFL）：脱离具体问题，空泛地谈论什么学习算法更好毫无意义。

*1.5 发展历程*