召回率,准确率,F-score,ROC曲线,AUC值
Recall,Precision,F-score
针对二分类问题,
TP(True Positive):将正类预测为正类
FN(False Negative):将正类预测为负类
FP(False Positive):将负类预测位正类
TN(True Negative):将负类预测位负类
1. 准确率(Precision)= TP/(TP+FP)所有预测的正类中有多少真实标签为正样本
2. 召回率(Recall) = TP/(TP+FN)所有真实标签为正的样本有多少被预测为正
单独考虑Precision和Recall,都是值越大越好,如何综合考虑两个指标?–引入了F-score
当α=1时,就是F1-score,
ROC曲线
FPR(False Positive Rate) = FP/(FP + TN) 负样本中的错判率,负样本中有多少预测为正
TPR(True Positive Rate) = TP/(TP + FN) 正样本的正确预测率,正样本中有多少预测为正
最理想的情况下,TPR为1,FPR为0。
阈值:对于二分类问题,会指定一个阈值,预测值大于这个阈值归为正类,否则归为负类。
给定一个阈值,会计算出一组TP、FN、FP、TN,进而得到TPR、FPR。
例如:
- 阈值为0时,所有类都为正类,TN和FN为0,TPR和FPR都为1,对应上图的原点(0,0)。
- 阈值为1时,所有类都为负类,FP和TP为0,TPR和FPR都为0,对应图中点(1,1)。
如何画ROC曲线:将所有测试样本的概率值从大到小一次排序,依次将每个概率值设置为阈值,计算(FPR,TPR)坐标,再将所有的(FPR,TPR)以及(0,0)(1,1)连接起来,得到ROC曲线。
例如:
当阈值取值越多,ROC曲线越平滑。
AUC值
AUC (Area Under Curve) 为ROC曲线下的面积,
AUC值越大的分类器,正确率越高。