本学习笔记为阿里云天池龙珠计划金融风控训练营的学习内容,学习链接为:AI训练营金融风控-阿里云天池
一、学习知识点概要
1、了解混淆矩阵的概念
2、了解PR、ROC和KS之间的区别
3、了解AUC的概念
二、学习内容
1、混淆矩阵又称误差矩阵,既模型把不同类别搞混淆了,常用来可视化的评估监督学习算法的性能。
2、准确率、精确率、召回率是PR曲线、ROC曲线、KS曲线的三个基本概念,准确率为模型预测正确的样本数量占总样本数量的比例,精确率为模型预测正确的真正类样本数量占所有预测为真正类样本数量的比例,召回率为模型正确预测为真正类的样本数量占所有真正类样本数量的比例。
PR曲线:横轴为召回率,纵轴为精确率,对样本类别分布变化比较敏感,适用于对模型进行调优
ROC曲线:横轴为假正类率,纵轴为真正类率(召回率),对样本类别分布变化不敏感,适用于对比不同模型的性能
KS曲线:横轴为选定的阀值,纵轴为真正类率和假正类率,KS曲线的峰值即为模型对应的最佳阀值
3、AUC为ROC曲线与坐标轴围成的面积,取值范围(0,1),取值越大,模型性能越好
三、学习问题与解答
1、训练样本中两个类别的比例约为4:1,样本分布不均衡的比例阀值是多少?