损失函数总结

损失函数对于机器学习算法来说是至关重要的一环，大部分机器学习算法都是通过梯度下降来进行学习的。下降的目标就是让损失函数达到最小值。

回归损失函数：
回归的损失函数比较少，常见的有MSE,MAE,RMSE,也比较好理解，就是预测值和真实值直接的差距最小。

分类损失函数：
分类损失函数的种类比较多，常见的分类算法，logistic regression, SVM, adaboost

log损失函数（逻辑回归）：
对数损失函数的标准形式为：

在二分类的情况下，可以简化为：

指数损失函数（adaboost）：

hinge损失函数（SVM)

0人点赞
机器学习算法

作者：数据小新手
链接：https://www.jianshu.com/p/a07a65d664cc
来源：简书
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。