统计机器学习方法概论

统计机器学习：

    1）以数据（以离散数据为主）为研究对象，是数据驱动的学科。它从数据出发，提取数据的特征，抽象出数据的模型，发现数据中的知识，又回到对数据的分析与预测中去！（关于数据的假设是同类数据具有一定的统计规律性，这是统计学习的前提。）
    2）目的是对数据进行预测与分析（通过构建概率统计模型实现）
    3）以方法为中心，方法用以构建模型并应用模型进行分析  - -  监督学习、无监督学习、半监督学习、强化学习

方法包括：模型的假设空间、模型选择的准则、模型学习算法  - - - 统称为三要素：模型 model 、策略 strategy 和 算法 algorithm

Herbert A. Simon对“学习”下的定义：如果一个系统能够通过执行某个过程改进它的性能，这就是学习。