西瓜书第一章

1.1学习算法

机器学习研究的主要内容，就是关于在计算机上从数据中产生模型的算法

1.2基本术语

1.=表示取值为

2.事例（样本）：

每条记录关于一个实践或对象的描述

3.属性（特征）：

反映实践或对象在某方面的表现或性质

4.属性值：

属性上的取值

5.属性空间：

属性组成的空间，输入空间，样本空间。

6.数据集：

记录的集合

7.特征向量

8.数据集

数据集D={x1,x2,x3,......,xm},表示包含m个数据，每一个数据有d个属性

9.学习，训练，训练数据，训练样本，训练集。假设，真相，真实，学习器

10.标记，预测。

拥有标记信息的事例成为样例，y是所有标记的集合，成为标记空间，输出空间

11.机器学习任务：

（1）标记值类型：离散值（分类，正类，反类；多酚类任务）与连续值（回归）

（2）是否拥有标记信息：监督学习（分类，回归），无监督学习（聚类）

12.聚类，簇，训练样本通常不拥有标记信息

13.泛化能力：

根据已知对未知做尽可能地判断，对未知事物判断地正确与否是泛化能力

14.分布：独立同分布

1.3假设空间

1.归纳与演绎

归纳：特殊到一般的泛化，从样例中学习

演绎：一般到特殊的特化，基础原理推演

2.搜索方法：

自顶向下：由一般到特殊

自底向上：由特殊到一半

3.版本空间：

存在一个与训练集一致的假设集合

1.4归纳偏好

1.奥卡姆剃刀：选择简单的算法

2.没有免费的午餐定理

初稿：2024.1.17，于山西吕梁