机器学习之评价函数

机器学习之评价函数

相信很多人都跟我一样，对于评价函数总是记不住，每次用到的时候都需要翻一翻笔记来确认一下，希望通过这篇博文能够下次再用到的时候不需要翻笔记吧！！！

对于评价函数需要先从混淆矩阵说起。

一、混淆矩阵

TP（True Positive）：预测结果为正类，实际也是正类。（真正）
FP（False Positive）: 预测结果为正类，实际是负类。（假正）
FN（False Negative）：预测结果为负类，实际是正类。（假负）
TN（True Negative）：预测结果为负类，实际也是负类。（真负）

二、评价指标
1、Precision（精确率）：预测结果为正类中有多少为正类。

Precision = TP/(TP+FP)

2、Recall（召回率）：真实结果为正类中有多少被预测成正类。

 Recall = TP/(TP+FN)

（就是灵敏度Sensitivity，同时也是TPR）

3、Accuracy（准确率）：所有预测正确的数量占总测试样本的比重。

Accuracy =（TP+TN）/ (TP+TN+FP+FN)

4、Specificity（特异度）：在真实值是负类的所有结果中，模型预测对的比重。

Specificity = TN/(TN+FP)

5、F1-score :综合考虑Precision和Recall。

F1-score = 2*Precision*Recall / (Precision + Recall)

6、TPR、FPR、TNR、FNR
（1）TPR（True Positive Rate）：所有正类中有多少被预测成正类（正类预测正确），即召回率。

 TPR = TP/(TP+FN)

（2）FPR（False Positive Rate）：所有负类中有多少被预测成正类（正类预测错误）。

FPR =  FP/(FP+TN)

（3）TNR（True negative Rate）：所有负类中有多少被预测成负类（负类预测正确）。

TNR = TN /（TN+FP）

（4）FNR（False Negative Rate）：所有正类中有多少被预测成反类。（反类预测错误）

FNR = FN / (FN+TP)