本篇我们来学习一下在机器学习中常用的损失函数
文中我们用 Y Y Y表示实际值, f ( X ) f(X) f(X)表示预测值
常用的损失函数有:
0-1损失函数(0-1 loss function)
L ( Y , f ( X ) ) = { 1 , Y ≠ f ( X ) 0 , Y = f ( X ) L(Y,f(X)) = \left\{ \begin{array}{l} 1,\;\;Y \ne f(X)\\ 0,\;\;Y = f(X) \end{array} \right. L(Y,f(X))={1,Y=f(X)0,Y=f(X)
实际值和预测值相等时为1
,不相等时为0
平方损失函数(quadratic loss function)
L ( Y , f ( X ) ) = ( Y − f ( X ) ) 2 L(Y,f(X)) = {(Y - f(X))^2} L(Y,f(X))=(Y−f(X))2
实际值和预测值之间的误差的平方
绝对损失函数(absolute loss function)
L ( Y , f ( X ) ) = ∣ Y − f ( X ) ∣ L(Y,f(X)) = |Y - f(X)| L(Y,f(X))=∣Y−f(X)∣
实际值和预测值之间的误差绝对值
对数损失函数(logarithmic loss function)或对数似然损失函数(log-likelihood loss function)
L ( Y , P ( Y ∣ X ) ) = − log P ( Y ∣ X ) L(Y,P(Y|X)) = - \log P(Y|X) L(Y,P(Y∣X))=−logP(Y∣X)
实际值和预测值之间的对数值