统计学习方法（—）——统计学习方法概念

 1、统计学习方法概念

   统计学习方法包括模型的假设空间、模型选择的准则以及模型学习的算法，称统计学习方法的三要素，简称为模型、策略和算法。
    模型的假设空间：包含所有可能的条件概率分布或决策函数。例如，决策函数是输入变量的线性函数，那么模型的假设空间就是所有这些线性函数构成的函数集合，假设空间的模型一般有无穷多个。
    模型选择的准则：一个评估方法从模型的假设空间中选择最优模型。引入损失函数来度量模型一次预测错误的程度，损失函数是f(X)和Y的非负实值函数，记作L(Y,f(X))。常见的损失函数有：
    （1）0-1损失函数：
                              

      (2)平方损失函数：