损失函数
均方损失
除以2当l求导数时2和1/2抵消
蓝色曲线:y=0时,变换预测值y',看出是一个二次函数
绿色曲线:似然函数,高斯分布
橙色曲线:损失函数梯度,穿过原点的一次函数
绝对值损失函数
优:当预测值和真实值相差较大时,稳定性较好
劣:在0点不可导
综合上述两者优点,当预测值和真实值相差较大时,采用绝对值误差,当预测值和真实值相距较近时,采用平方误差
除以2当l求导数时2和1/2抵消
蓝色曲线:y=0时,变换预测值y',看出是一个二次函数
绿色曲线:似然函数,高斯分布
橙色曲线:损失函数梯度,穿过原点的一次函数
优:当预测值和真实值相差较大时,稳定性较好
劣:在0点不可导
综合上述两者优点,当预测值和真实值相差较大时,采用绝对值误差,当预测值和真实值相距较近时,采用平方误差