损失函数-经验风险最小化-结构风险最小化

1、损失函数

最简单的理解就是，给定一个实例，训练的模型对它的预测结果错了，就要受到惩罚， 因此需要定义一个量度量预测错误的程度，而损失函数就是用来衡量错误的程度。常见的损失函数有如下几类（用  来表示损失函数）：

假设输入是X，输出是f(X)，真实值是Y。

（1）0-1损失函数（0-1 loss function）

          

（2）平方损失函数（quadratic loss function）

            

（3）绝对损失函数（absolute loss function）