常见回归和分类的损失函数

       分类和回归是机器学习中研究的两大目标。分类即预测未知数据的类别，分类模型的输出可以是离散的，也可以是连续的，一般是输出每个类别的概率，分类分为二元分类和多元分类，二元分类如逻辑回归（LR）、支持向量机（SVM），多元分类如SoftMax、决策树（ID3、C4.5、CART等三个最著名的决策树）、朴素贝叶斯等。回归是预测在未知数据上的函数值，比如预测房价、股票等，常见的回归机器学习算法有线性回归、CART回归树等。

       无论回归或者分类，通常做法都是最小化损失函数，即，用来衡量预测值和真实值之间的差异，通常越小越好。分类问题中常包含，回归问题中常包含，常见的分类和回归损失函数总结如下：

一、回归问题的损失函数

回归问题中，和通常为实数，所以用