机器学习相关基本术语
@(Machine Learning)
学习/训练(Learning/Training):从数据中学得模型的过程。
学习过程就是找出或者逼近真相。
模型也称作学习器(learner)。
标记空间:label space
也称作输出空间。
示例结果称作标记。
学习任务的分类
- 分类(classification)
- 回归(regression)
预测的值是离散值时,学习任务叫作分类。
预测是追是连续值时,学习任务叫作回归。
分类的再次细分: 对于只有两个类别的称作二分类。分别称作正类和反类。
涉及到多个类别,称作多分类。
预测/测试
通过数据集学习到模型后,使用这个模型进行预测的过程称作测试(testing)。
被预测的样本成为测试样本。如学习得到
f
后,对于测试例
类比到数学上来,这也可以简单看做是朴素的函数思想。即:一个集合到另一个集合的映射,学习的模型就是一个函数的映射关系。只不过,这个映射关系是我们从数据中学习得到。多数情况下并非精确关系,但足够逼近事实就很好了。
聚类:clustering
将训练数据分为若干组,每个组称之为一个簇(cluster)。这种分类的依据我们事先并不知道,而是机器通过算法学习自动分类得到。即:学习过程中使用的样本通常不含有标记信息。
监督学习与无监督学习
个人的理解是:监督学习是根据样本的标记信息,知道样本数据的输入对应的确定的输出,从中学习到一个模型,用于预测样本之外的数据。而无监督学习是样本不含标记。
根据训练数据是否拥有标记信息,学习任务分为两类:监督学习 : supervised learning 和 无监督学习:unsupervised learning。
监督学习的代表是分类和回归。
无监督学习的代表是聚类。
值得强调的是:机器学习的目标是使得学到的模型能够很好的适用于新样本,而不仅仅是在样本上工作得很好。
泛化的理解
学得的模型适用于新样本的能力,被称之为泛化(generalization)。
这其实和我们自己学习知识并运用知识的过程很相似。比如数学的学习,我们很强调举一反三。我们做不到穷尽所有的题库,只能在有限的习题下学习抽象出解决问题的模型,再运用在新的问题上。