金融风控训练营传送门:
一、学习知识概要
1. 熟悉评分体系(模型评价指标公式、利用python计算这些模型评价指标)
2. 熟悉比赛流程 零基础入门金融风控-贷款违约预测赛题与数据-天池大赛-阿里云天池
二、学习内容
1. 评分体系(贷款违约预测是个分类问题,故下面只介绍分类算法常见的评估指标):
1.1 混淆矩阵(Confuse Matrix):
- (1)若一个实例是正类,并且被预测为正类,即为真正类TP(True Positive )
- (2)若一个实例是正类,但是被预测为负类,即为假负类FN(False Negative )
- (3)若一个实例是负类,但是被预测为正类,即为假正类FP(False Positive )
- (4)若一个实例是负类,并且被预测为负类,即为真负类TN(True Negative )
1.2 准确率(Accuracy)
准确率是常用的一个评价指标,但是不适合样本不均衡的情况。
1.3 精确率(Precision)
又称查准率,正确预测为正样本(TP)占预测为正样本(TP+FP)的百分比。
1.4 召回率(Recall=TPR)
又称为查全率,正确预测为正样本(TP)占正样本(TP+FN)的百分比。
1.5 F1score
精确率和召回率是相互影响的,精确率升高则召回率下降,召回率升高则精确率下降,如果需要兼顾二者,就需要精确率、召回率的调和平均F1 Score。
1.6 P-R曲线
P-R曲线是描述精确率和召回率变化的曲线。
1.7 ROC
- ROC空间将假正例率(FPR)定义为 X 轴,真正例率(TPR)定义为 Y 轴。
TPR:在所有实际为正例的样本中,被正确地判断为正例之比率。
FPR:在所有实际为负例的样本中,被错误地判断为正例之比率。
1.8 AUC(Area Under Curve)
被定义为 ROC曲线 下与坐标轴围成的面积,显然这个面积的数值不会大于1。又由于ROC曲线一般都处于y=x这条直线的上方,所以AUC的取值范围在0.5和1之间。AUC越接近1.0,检测方法真实性越高;等于0.5时,则真实性最低,无应用价值。
1.9 KS
KS统计量由两位苏联数学家A.N. Kolmogorov和N.V. Smirnov提出。在风控中,KS常用于评估模型区分度。区分度越大,说明模型的风险排序能力(ranking ability)越强。 K-S曲线与ROC曲线类似,不同在于
- ROC曲线将真正例率和假正例率作为横纵轴
- K-S曲线将真正例率和假正例率都作为纵轴,横轴则由选定的阈值来充当。公式如下:
FPR、cum(bad_rate)的等价以及其他更多ks相关信息可参考:
风控模型—区分度评估指标(KS)深入理解应用 - 知乎 (zhihu.com)https://zhuanlan.zhihu.com/p/79934510
KS不同代表的不同情况,一般情况KS值越大,模型的区分能力越强,但是也不是越大模型效果就越好,如果KS过大,模型可能存在异常,所以当KS值过高可能需要检查模型是否过拟合。以下为KS值对应的模型情况,但此对应不是唯一的,只代表大致趋势。
KS(%) | 好坏区分能力 |
---|---|
20以下 | 不建议采用 |
20-40 | 较好 |
41-50 | 良好 |
51-60 | 很强 |
61-75 | 非常强 |
75以上 | 过于高,疑似存在问题 |
remark:
其中,金融风控预测中常用ROC\AUC\KS作为评估指标。
2. 分类指标评价计算示例
2.1 混淆矩阵
## 混淆矩阵
import numpy as np
from sklearn.metrics import confusion_matrix
y_pred = [0, 1, 0, 1]
y_true = [0, 1, 1, 0]
print('混淆矩阵:\n',confusion_matrix(y_true, y_pred))
混淆矩阵:
[[1 1]
[1 1]]
2.2 accuracy
## accuracy
from sklearn.metrics import accuracy_score
y_pred = [0, 1, 0, 1]
y_true = [0, 1, 1, 0]
print('ACC:',accuracy_score(y_true, y_pred))
ACC: 0.5
2.3 precision\recall\f1-score
## Precision,Recall,F1-score
from sklearn import metrics
y_pred = [0, 1, 0, 1]
y_true = [0, 1, 1, 0]
print('Precision',metrics.precision_score(y_true, y_pred))
print('Recall',metrics.recall_score(y_true, y_pred))
print('F1-score:',metrics.f1_score(y_true, y_pred))
Precision 0.5
Recall 0.5
F1-score: 0.5
2.4 PR曲线
## P-R曲线
import matplotlib.pyplot as plt
from sklearn.metrics import precision_recall_curve
plt.rcParams['font.sans-serif']=['SimHei']
plt.rcParams['axes.unicode_minus'] = False
y_pred = [0, 1, 1, 0, 1, 1, 0, 1, 1, 1]
y_true = [0, 1, 1, 0, 1, 0, 1, 1, 0, 1]
precision, recall, thresholds = precision_recall_curve(y_true, y_pred)
plt.title(r'PR曲线')
plt.plot(precision, recall)
plt.xlabel('precison')
plt.ylabel('recall')
plt.show()
2.5 ROC曲线
## ROC曲线
from sklearn.metrics import roc_curve
y_pred = [0, 1, 1, 0, 1, 1, 0, 1, 1, 1]
y_true = [0, 1, 1, 0, 1, 0, 1, 1, 0, 1]
FPR,TPR,thresholds=roc_curve(y_true, y_pred)
plt.title('ROC')
plt.plot(FPR, TPR,'b')
plt.plot([0,1],[0,1],'r--')
plt.ylabel('TPR')
plt.xlabel('FPR')
plt.show()
2.6 AUC
## AUC
import numpy as np
from sklearn.metrics import roc_auc_score
y_true = np.array([0, 0, 1, 1])
y_scores = np.array([0.1, 0.4, 0.35, 0.8])
print('AUC socre:',roc_auc_score(y_true, y_scores))
AUC socre: 0.75
2.7 KS值
## KS值 在实际操作时往往使用ROC曲线配合求出KS值
from sklearn.metrics import roc_curve
y_pred = [0, 1, 1, 0, 1, 1, 0, 1, 1, 1]
y_true = [0, 1, 1, 0, 1, 0, 1, 1, 1, 1]
FPR,TPR,thresholds=roc_curve(y_true, y_pred)
KS=abs(FPR-TPR).max()
print('KS值:',KS)
# 画图,画出曲线
plt.plot(FPR, label='bad')
plt.plot(TPR, label='good')
plt.plot(abs(FPR-TPR), label='diff')
# 标记ks
x = np.argwhere(abs(FPR-TPR) == KS)[0, 0]
plt.plot((x, x), (0, KS), label='ks - {:.2f}'.format(KS), color='r', marker='o', markerfacecolor='r', markersize=5)
plt.scatter((x, x), (0, KS), color='r')
plt.legend()
plt.show()
KS值: 0.5238095238095237
补充下ks和auc的其他画法(调用制作评分卡的包scorecardpy):
# ks\roc其他画法
import scorecardpy as sc
y_true = np.array([0, 0, 1, 1])
y_scores = np.array([0.1, 0.4, 0.35, 0.8])
sc.perf_eva(y_true, y_scores)
plt.show()
但是不得不说,这个包虽然用着简单,但是good和bad两条曲线的颜色无法区分,可能带来一些看图的障碍。从这个角度来讲,可能还是手动画图好些。
三、学习问题与解答
过程主要遇到一个问题,即阅读不同资料时,有些地方告诉我ks等于tpr和fpr的差的最大值,有些地方告诉我,ks等于累计好人比-累计坏人比的最大值,一直无法通过自己的思考将二者进行统一。直到看到了风控模型—区分度评估指标(KS)深入理解应用 - 知乎,此文解答了我的疑惑,我愿称之为ks深度好文!
四、学习思考与总结
task1主要还是在介绍各种评价指标的概念并给出计算示例。其他部分,如数据读取、评分卡等都是简单介绍。计划在完成金融风控训练营所有内容后,基于比赛数据集,制作一个评分卡(考虑使用scorecard和toad进行尝试)。