机器通过损失函数进行学习。这是一种评估特定算法对给定数据建模程度的方法。如果预测值与实际结果偏离较远,损失函数会得到一个非常大的值。通过梯度下降算法来优化损失函数,使预测值逼近真实值。
#平方损失函数
平方误差是预测值与真实值之差的平方和
其公式如下:
均方误差,MSE(mean squared error)
均方误差是预测值与真实值之差的平方和的平均值,即
0-1损失(zero-one loss)
0-1损失是指预测值和目标值不相等为1, 否则为0:
绝对值损失函数
绝对值损失函数是计算预测值与目标值的差的绝对值:
log对数损失函数
log对数损失函数的公式如下:
指数损失函数(exponential loss)
指数损失函数的公式如下:
Hinge 损失函数
Hinge 损失函数的公式如下
感知损失(perceptron loss)函数
感知损失(perceptron loss)函数公式如下:
交叉熵损失函数 (Cross-entropy loss function)
交叉熵损失函数的公式如下:
注意公式中x表示样本,y表示预测的输出,a表示实际的输出,n表示样本总数量。