《统计学习方法》第1章 统计学习方法概论 1.3 统计学习的三要素

1.3统计学习的三要素

方法=模型+策略+算法

1.3.1 模型

在监督学习中，模型就是所要学习的条件概率分布或决策函数。
（1）当假设空间定义为决策函数的集合时：
（2）当假设空间定义为条件概率分布时：

1.3.2 策略

1.损失函数和风险函数

损失函数度量模型一次预测的好坏，风险函数度量平均意义下模型的好坏。
（1）损失函数
用损失函数（loss function）和代价函数（cost function）来度量预测错误的程度。损失函数是f(X)和Y的非负实值函数，记作L(Y,f(X))
常用的损失函数：