损失函数对于机器学习算法来说是至关重要的一环,大部分机器学习算法都是通过梯度下降来进行学习的。下降的目标就是让损失函数达到最小值。
回归损失函数:
回归的损失函数比较少,常见的有MSE,MAE,RMSE,也比较好理解,就是预测值和真实值直接的差距最小。
分类损失函数:
分类损失函数的种类比较多,常见的分类算法,logistic regression, SVM, adaboost
log损失函数(逻辑回归):
对数损失函数的标准形式为:
在二分类的情况下,可以简化为:
指数损失函数(adaboost):
hinge损失函数(SVM)
0人点赞
机器学习算法
作者:数据小新手
链接:https://www.jianshu.com/p/a07a65d664cc
来源:简书
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。