1.损失函数:用来评价模型的预测值和真实值不一样的程度,损失函数越好,通常模型的性能越好。损失函数通常作为学习准则与优化问题相联系,即通过最小化损失函数求解和评估模型。
2.期望风险:模型定义:
1.损失函数:用来评价模型的预测值和真实值不一样的程度,损失函数越好,通常模型的性能越好。损失函数通常作为学习准则与优化问题相联系,即通过最小化损失函数求解和评估模型。
2.期望风险:模型 F(x) 关于联合分布 P(X,Y) 的平均意义下的代价损失,称为风险函数(risk function)或期望损失(expected loss)。
3.经验风险:模型 F(x) 关于训练数据集的平均损失,称为经验风险。当样本量趋于无穷时,经验风险趋于期望风险。
4.经验风险最小化:基于最小化平均训练误差的训练过程被称为经验风险最小化。当模型是条件概率分布,损失函数是对数损失函数的时候,经验风险最小化等价于极大似然估计。
5.结构风险最小化:指的是经验风险+正则化项表示结构风险。是为了防止过拟合而提出来的策略。