- 数据集:dataset
- 示例:instance
- 属性/特征:attribute、feature
- 属性空间:attribute space
- 样本空间:sample space
- 输入空间:
- 特征向量:feature vector
- 维数:dimensionality
- 学习/训练:learning training
- 训练数据:training data
- 训练样本:training samples
- 训练集:training set
- 假设:hypothesis
- 学习器:learner
- 预测:prediction
- 标记:label
- 样例:example
- 分类:classification(预测离散值)
- 回归:regression(预测连续值)
- 二分类:binary classification,正类:positive class,反类:negative class
- 多分类:multi-class classification
- 进行预测的过程,称之为 测试:testing
- 测试样本:testing samples
- 聚类:clustering
- 簇:cluster
- 学习任务分为两大类:监督学习(supervised learning,分类、回归),无监督学习(unsupervised learning,聚类)
- 学得模型适用于新样本的能力,为泛化(generalization)能力
- 通常假设样本空间中全体样本服从一个未知的分布(distribution)
- 独立同分布(independent and indentically distributed)
- 归纳(induction,从特殊到泛化)和演绎(deduction,从一般到特殊)是科学推理的两大基本手段。
- 从样例中学习,属于归纳过程,称之为“归纳学习:induction learning”
- 归纳分两类:广义、狭义
- 版本空间:version space
- 归纳偏好:inductive bias
- 奥卡姆剃刀原则:occam's razor,若有多个假设与观察一致,选择最简单的那个
- 人工智能:artificial intelligence
- 统计学习:statistical learning
- 支持向量机:support vector machine(核方法:kernel methods)
- 众包:crowdsourcing
- 数据挖掘:data mining