[机器学习]机器学习性能评价指标

回归:

1.平均绝对误差MAE(Mean Absloute Error)又被称作l1范数损失(l1-norm loss):
$$\mathrm{M}\mathrm{A}\mathrm{E}(y,\hat{y})=\frac{1}{n_{\mathrm{s}\mathrm{a}\mathrm{m}\mathrm{p}\mathrm{l}\mathrm{e}\mathrm{s}}}\sum _{i=1}^{n_{\mathrm{s}\mathrm{a}\mathrm{m}\mathrm{p}\mathrm{l}\mathrm{e}\mathrm{s}}}|y_i-{\hat{y}}_i|$$

2.平均平方误差 MSE（Mean Squared Error）又被称为 l2 范数损失（l2-norm loss）：
$$\mathrm{M}\mathrm{S}\mathrm{E}(y,\hat{y})=\frac{1}{n_{\mathrm{s}\mathrm{a}\mathrm{m}\mathrm{p}\mathrm{l}\mathrm{e}\mathrm{s}}}\sum _{i=1}^{n_{\mathrm{s}\mathrm{a}\mathrm{m}\mathrm{p}\mathrm{l}\mathrm{e}\mathrm{s}}}(y_i-{\hat{y}}_i{)}^2$$

-----------------------------------------------------------------------------------------------------

分类:

混淆矩阵

TP: 你认为是对的,确实是对的
TN: 你认为是错的,确实是错的
FN: 你认为是对的,其实是错的
FP: 你认为是错的,其实是对的

精确率(precision)定义为(也叫查准率,找出来中正确的/找出来的所有)：

$$P=\frac{TP}{TP+FP}\text{\hspace{1em}(1)}$$

需要注意的是精确率(precision)和准确率(accuracy)是不一样的，
$$ACC=\frac{TP+TN}{TP+TN+FP+FN}$$
(在正负样本不平衡的情况下，准确率这个评价指标有很大的缺陷。比如一个不平衡的样本数据集,正例990个,负例10个.一个模型什么也不做直接输出是正例,那么准确率也有99%,所以没有什么意义)

召回率(recall,sensitivity,true positive rate)定义为：(也叫查全率.找出来中正确的/所有正确的)

$$R=\frac{TP}{TP+FN}\text{\hspace{1em}(2)}$$

此外，还有 F1 值，是精确率和召回率的调和均值.

精确率和准确率都高的情况下，F1 值也会高

ROC 曲线

我们先来看下维基百科的定义，

In signal detection theory, a receiver operating characteristic (ROC), or simply ROC curve, is a graphical plot which illustrates the performance of a binary classifier system as its discrimination threshold is varied.

比如在逻辑回归里面，我们会设一个阈值，大于这个值的为正类，小于这个值为负类。如果我们减小这个阀值，那么更多的样本会被识别为正类。这会提高正类的识别率，但同时也会使得更多的负类被错误识别为正类。为了形象化这一变化，在此引入 ROC ，ROC 曲线可以用于评价一个分类器好坏。

ROC 关注两个指标，

直观上，TPR 代表能将正例分对的概率，FPR 代表将负例错分为正例的概率。在 ROC 空间中，每个点的横坐标是 FPR，纵坐标是 TPR，这也就描绘了分类器在 TP（真正率）和 FP（假正率）间的 trade-off2。

AUC

AUC（Area Under Curve）被定义为ROC曲线下的面积，显然这个面积的数值不会大于1。

The AUC value is equivalent to the probability that a randomly chosen positive example is ranked higher than a randomly chosen negative example.

翻译过来就是，随机挑选一个正样本以及一个负样本，分类器判定正样本的值高于负样本的概率就是 AUC 值。

简单说：AUC值越大的分类器，正确率越高.

AUC=1
，完美分类器，采用这个预测模型时，不管设定什么阈值都能得出完美预测。绝大多数预测的场合，不存在完美分类器。

0.5<AUC<1
，优于随机猜测。这个分类器（模型）妥善设定阈值的话，能有预测价值。

AUC=0.5
，跟随机猜测一样（例：丢铜板），模型没有预测价值。

AUC<0.5
，比随机猜测还差；但只要总是反预测而行，就优于随机猜测，因此不存在 AUC<0.5 的情况。

既然已经这么多评价标准，为什么还要使用ROC和AUC呢？因为ROC曲线有个很好的特性：当测试集中的正负样本的分布变化的时候，ROC曲线能够保持不变。在实际的数据集中经常会出现类不平衡（class imbalance）现象，即负样本比正样本多很多（或者相反）