机器学习第一节：统计

一、统计学习的对象

1、统计学习的对象是数据，统计学习从数据出发，提取数据的特征，抽象数据的模型，发现数据的知识。
2、统计学习关于数据的基本假设是同类数据具有一定的统计规律性，这是统计学习的前提。同类数据是指具有某种共同性质的数据。只有当数据具有统计规律时，才可以用概率统计的方法加以处理。

二、统计学习的目的

预测和分析

三、统计学习的方法

监督学习（supervised learning）、非监督学习（unsupervised learning）、半监督学习（semi-supervised learning）、强化学习（reinforcement learning）
统计学习方法三要素：模型（model）、策略（strategy）、算法（algorithm）
训练数据（training data）
验证数据（test data）
评价准则（evaluation criterion）
假设空间（hypothesis space）
实现统计学习方法的步骤：
1、得到一个有限的训练数据集合
2、确定包含所有可能的模型的假设空间，即学习模型的集合
3、确定模型选择的准则，即学习的策略
4、实现求解最优模型的算法，即学习的算法
5、通过学习方法选择最优模型
6、利用学习的最优模型对新数据进行预测和分析

四、统计学习的研究

包含三个方面：统计学习方法（statistical learning model）、统计学习理论（statistical learning theory）、统计学习应用（application of statistical learning ）