广工大数协 阿里云天池 金融风控训练营 - Task1 赛题理解学习笔记

最新推荐文章于 2021-05-05 22:15:58 发布
最新推荐文章于 2021-05-05 22:15:58 发布
阅读量180 收藏
点赞数
文章标签： 机器学习 编程语言 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_51439571/article/details/116013200
版权
这篇博客详细介绍了阿里云天池金融风控训练营Task1的赛题理解，重点讲解了数据概况，如贷款申请者的各项信息，并指出采用AUC作为评价指标。此外，还讨论了金融风控模型评估的常见指标，包括精确率、召回率、F1-Score和ROC曲线，强调了AUC在衡量模型性能中的重要性。
摘要由CSDN通过智能技术生成

目录

Task1 

一、学习知识点概要（赛题理解）

二、学习内容

1.数据概况

2.预测指标

竞赛采用AUC（ROC曲线下与坐标轴围成的面积）作为评价指标

对于金融风控预测类常见的评估指标

三、学习问题及解答

四、学习思考与总结

Task1 

一、学习知识点概要（赛题理解）

赛题以金融风控中的个人信贷为背景，需根据贷款申请人的数据信息建立模型，预测其是否有违约的可能，以此判断是否通过此项贷款，这是一个典型的分类问题。因此，在预测指标时需要用到分类算法常见的评估指标。

在金融贷款机构中，风控部门是核心部门之一，风控体系的好坏直接决定机构盈利能力和存活能力。

评估客户偿还贷款的能力可从三个方面考察客户的偿还贷款能力：（1）借款人偿还贷款能力（2）偿还贷款意愿 （3）内部操作风险的控制

二、学习内容

1.数据概况

“我们所有的风险都是基于数据的，所以如果不了解不掌握数据，影响风控系统的信息是搜集不了的。”龙屠以支付宝举例，支付宝每天的交易用户数量可能有好几千万，其中每次操作都会产生很多数据，支付宝的风控人员必须对这些数据进行实时分析、监控，然后识别出一些异常交易。由此可见，数据在建立模型中极为重要，了解数据概况有助于我们对数据进行理解、处理、分析。在比赛界面中，都有对应的数据概况介绍，说明列的性质特征。当然，也会存在匿名特征，即未告知数据列所属的性质的特征列。

以下为金融风控中需要了解的数据概况：

  • id 为贷款清单分配的唯一信用证标识
  • loanAmnt 贷款金额
  • term 贷款期限（year）
  • interestRate 贷款利率
  • installment 分期付款金额
  • grade 贷款等级
  • subGrade 贷款等级之子级
  • employmentTitle 就业职称
  • employmentLength 就业年限（年）
  • homeOwnership 借款人在登记时提供的房屋所有权状况
  • annualIncome 年收入
  • verificationStatus 验证状态
  • issueDate 贷款发放的月份
  • purpose 借款人在贷款申请时的贷款用途类别
  • postCode 借款人在贷款申请中提供的邮政编码的前3位数字
  • regionCode 地区编码
  • dti 债务收入比
  • delinquency_2years 借款人过去2年信用档案中逾期30天以上的违约事件数
  • ficoRangeLow 借款人在贷款发放时的fico所属的下限范围
  • ficoRangeHigh 借款人在贷款发放时的fico所属的上限范围
  • openAcc 借款人信用档案中未结信用额度的数量
  • pubRec 贬损公共记录的数量
  • pubRecBankruptcies 公开记录清除的数量
  • revolBal 信贷周转余额合计
  • revolUtil 循环额度利用率，或借款人使用的相对于所有可用循环信贷的信贷金额
  • totalAcc 借款人信用档案中当前的信用额度总数
  • initialListStatus 贷款的初始列表状态
  • applicationType 表明贷款是个人申请还是与两个共同借款人的联合申请
  • earliesCreditLine 借款人最早报告的信用额度开立的月份
  • title 借款人提供的贷款名称
  • policyCode 公开可用的策略代码=1新产品不公开可用的策略代码=2
  • n系列匿名特征 匿名特征n0-n14，为一些贷款人行为计数特征的处理

2.预测指标

竞赛采用AUC（ROC曲线下与坐标轴围成的面积）作为评价指标

分类算法常见的评估指标 ：

  • 混淆矩阵（Confuse Matrix）
实例被预测为结果为
正类正类真正类TP(True Positive )
正类负类假负类FN(False Negative )
负类正类假正类FP(False Positive )
负类负类真负类TN(True Negative )
  • 准确率（Accuracy） 不适合样本不均衡的情况

 

Accuracy=\frac{TP+TN}{TP+TN+FP+FN}

  • 精确率（Precision） 又称查准率

Precision=\frac{TP}{TP+FP}

  •  召回率（Recall）又称为查全率

 Recall=\frac{TP}{TP+FN}

  • F1-Score（精确率、召回率的结合）

F1-Score=\frac{2}{\frac{1}{Precision}+\frac{1}{Recall}}=\frac{2}{\frac{1}{\frac{TP}{TP+FP}}+\frac{1}{\frac{TP}{TP+FN}}}

  • P-R曲线（Precision-Recall Curve）描述精确率和召回率变化的曲线

  • ROC（Receiver Operating Characteristic）

假正例率FPR（X 轴）：在所有实际为负例的样本中，被错误地判断为正例之比率

                                                      FPR=\frac{FP}{FP+TN}

真正例率TPR（Y 轴）：在所有实际为正例的样本中，被正确地判断为正例之比率

                                                      TPR=\frac{TP}{TP+FN}

  •  AUC(Area Under Curve) AUC（Area Under Curve）

       由于ROC曲线一般都处于y=x这条直线的上方，所以AUC的取值范围在0.5和1之间。AUC越接近1.0，检测方法真实性越高;等于0.5时，则真实性最低，无应用价值。

对于金融风控预测类常见的评估指标

1、KS(Kolmogorov-Smirnov)

在风控中，KS常用于评估模型区分度。区分度越大，说明模型的风险排序能力（ranking ability）越强。 在实际操作时往往使用ROC曲线配合求出KS值。

K-S曲线与ROC曲线类似，不同在于:

  • ROC曲线将真正例率和假正例率作为横纵轴
  • K-S曲线将真正例率和假正例率都作为纵轴，横轴则由选定的阈值来充当。公式为：KS=max(TPR-FPR)

一般情况KS值越大，模型的区分能力越强，但如果KS过大，模型可能存在异常，需要检查模型是否过拟合。以下为KS值对应的模型情况，但此对应不是唯一的，只代表大致趋势

KS(%)好坏区分能力
20以下不建议采用
20-40较好
41-50良好
51-60很强
61-75非常强
75以上过于高，疑似存在问题

2.ROC

3.AUC

4.RP

三、学习问题及解答

Q：指标太多，不知道应该用什么指标去进行分析

A：指标只是作为一种分析手段，首先要明白各种指标所适用的条件，比如在遇到样本不均衡的情况时，准确率这项指标就不适用了。除此之外，还需要注意一些指标的取值范围，这可以帮助检验模型是否有误。

 

四、学习思考与总结

金融风控建模需要用到Python和机器学习的知识，利用代码将模型建出，从而根据一系列指标预测其是否有违约的可能，以此判断是否通过此项贷款。因此，我们要从一系列数据中获取信息进行建模，要获取数据就必须要了解数据概况，否则将有可能获取到错误信息，得到错误的结果，这可能会导致损失惨重！

 

weixin_51439571
关注
ks检验正态分布结果_第八章评价测度之KS统计量
weixin_29012765的博客
01-03 1715
本篇内容来自《信用评分工具》一书的8.3KS统计量。KS统计量全称为Kolmogorov-Smirnov统计量，基于经验累积分布函数，是一种非参数的统计检验方法，用于检验两个分布是否一致。对于两个分布，其计算公式如下： 其中 和 分别表示两个分布的累积函数， 和 分别表示两个分布的样本数量。其原假设 为 和 来自同一个分布，备择假设 为 和 来自不同的分布。如果根据 计算所得P小于我...
深入理解KS
weixin_30709809的博客
02-07 911
一、概述 KS（Kolmogorov-Smirnov）评价指标，通过衡量好坏样本累计分布之间的差值，来评估模型的风险区分能力。 KS、AUC、PR曲线对比： 1）ks和AUC一样，都是利用TPR、FPR两个指标来评价模型的整体训练效果。 2）不同之处在于，ks取的是TPR和FPR差值的最大值，能够找到一个最优的阈值；AUC只评价了模型的整体训练效果，并没有指出如何划分类别让预估的效果达到最...
金融风控-task03特征工程
weixin_43868320的博客
09-15 107
一、字段含义 id 为贷款清单分配的唯一信用证标识 loanAmnt 贷款金额 term 贷款期限（year） interestRate 贷款利率 installment 分期付款金额 grade 贷款等级 subGrade 贷款等级之子级 employmentTitle 就业职称 employmentLength 就业年限（年） homeOwnership 借款人在登记时提供的房屋所有权状况 annualIncome 年收入 verificationStatus 验证状态 issueDate 贷款发放的
模型ks_风控建模：催收评分卡（五）--浅显理解模型一个非常重要的验证指标（含资料赠送）...
weixin_30117665的博客
12-23 1525
​昨天说到的关于变量的整理，按照一套标准化的建模流程，变量整理完后，一般会基于各种基础变量做数据衍生。原计划是想做关于数据变量衍生的内容，考虑到后台有粉丝在咨询关于模型验证的事情，今天就穿插一下讲模型验证里最重要的指标KS值。KS值是衡量一个模型是否有区分度的一个非常重要的指标，模型一般在0.3以上就具有一定的区分能力。我了解到，目前各大公司在实际应用模型时，大部分模型ks基本在0.2左右。今天为...
KS值的计算过程
谷雨的博客
10-30 1万+
KS（kolmogorov-Smirnov）值衡量的是好坏样本累计各部分之间的差值。 好坏样本累计差异越大，KS指标越大。那么模型的风险区分能力越强。 KS的计算步骤： 1.按照模型的结果对每个账户进行打分。 2.所有账户按照评分排序，并从小到大分为10~20组。 3.计算每个评分区间的好坏账户数。（每个区间的good账户数n, 坏账户数m） 4.（1）计算每个评分区间的累计好账户数占总的好账户数的比例。（从第0个区间到第i个区间的good账户数ni 比 所有的good账户数N，ni/N） .
广工大数协 阿里云天池 金融风控训练营 - Task2 数据分析
weixin_45242926的博客
04-25 210
本学习笔记为阿里云天池龙珠计划Docker训练营的学习内容，学习链接为：https://tianchi.aliyun.com/specials/activity/promotion/aicampdocker 一、学习知识点概要 学习如何对数据集整体概况进行分析，包括数据集的基本情况（缺失值，异常值） 学习深入数据-查看数据类型 学习了解变量间的相互关系、变量与预测值之间的存在关系 学习用pandas_profiling生成数据报告 二、学习内容 2.1 数据总体.
广工大数协 阿里云天池 金融风控训练营 - Task1 赛题理解
weixin_45242926的博客
04-22 247
本学习笔记为阿里云天池龙珠计划Docker训练营的学习内容，学习链接为：https://tianchi.aliyun.com/specials/activity/promotion/aicampdocker 一、学习知识点概要 赛题概况 数据概况 预测指标 分析赛题 二、学习内容 2.1 赛题概况 比赛要求参赛选手根据给定的数据集，建立模型，预测金融风险。 赛题以预测金融风险为任务，数据集可下载，该数据来自某信贷平台的贷款记录，总数据量超过120w，包含47列变量信息，其中15列为匿名变量.
广工大数协 阿里云天池 金融风控训练营 - Task2 数据分析学习笔记
weixin_51439571的博客
04-25 448
目录 Task 2 一、学习知识点概要（数据分析） 二、学习内容 1.读取文件 2.查看数据集的样本个数和原始特征维度 4.查看特征的数值类型有哪些，对象类型有哪些 5.数值连续型变量分析 6.变量分布可视化 7.时间格式数据处理及查看 8.使用pivot_table生成透视图https://www.cnblogs.com/Yanjy-OnlyOne/p/11195621.html 9.用pandas_profiling生成数据报告 三、学习问题及解答 四、学习思考与...
广工大数协 阿里云天池 金融风控训练营 - Task6 贷款违约预测
weixin_45242926的博客
05-05 207
本学习笔记为阿里云天池龙珠计划Docker训练营的学习内容，学习链接为：https://tianchi.aliyun.com/specials/activity/promotion/aicampdocker 一、学习知识点概要 赛题理解 EDA探索性数据分析 特征工程 建模与调参 ...
广工-计算机网络-计网实验+课设-广东工业大学
05-22
广工的计网课程的课设选题和课程实验的实验报告，有兴趣的同学可以下载来看一下。。。只能帮到这里了
一文完全理解模型ks指标含义并画出ks曲线（包含代码和详细解释）
热门推荐
scxyz的博客
01-31 7万+
KS(Kolmogorov-Smirnov)：KS用于模型风险区分能力进行评估， 指标衡量的是好坏样本累计分部之间的差值。 好坏样本累计差异越大，KS指标越大，那么模型的风险区分能力越强。 ——神秘的KS值和GINI系数 上面是ks的简单介绍，相信大家看了这几句话，肯定还是不懂ks到底是个什么。我也是研究了比较久，终于搞清楚了ks的具体计算方式。搞清楚了计算方式后，ks的含义自然就清楚了。下面...
auc到多少有意义_信贷风控中AUC/KS的理解
weixin_42552410的博客
12-19 1554
作为风控从业人员，你真的足够了解AUC/KS吗？AUC/KS是信贷领域使用极其高频的指标，常被用来评估二分类模型、分数类数据产品的区分能力。但在实际的业务中，发现很多业务人员甚至建模专家在使用AUC/KS时，仅仅关注AUC/KS值的大小而忽略例如样本逾期率、样本量等重要细节。本文将用‘硬核’的方式（理论推导与数值模拟）带您重新认识这两个明星指标，试图回答清楚如下三个问题：AUC 与KS有互相决定关...
风控指标 —— KS
颹蕭蕭
09-20 4074
原文作者：过一点画一条直线（知乎ID） 知乎专栏：数据化风控 原文链接：https://zhuanlan.zhihu.com/p/95797653 KS统计量是信用评分和其他很多学科中常见的统计量，在金融风控领域中，常用于衡量模型对正负样本的区分度。 通常来说，值越大，模型区分正负样本的能力越强，一般0.3以上，说明模型的效果比较好（申请评分卡）。 其定义如下： KS=max{TPR−FPR}KS = max\{TPR - FPR\}KS=max{TPR−FPR} 与ROC曲线相似，ROC是以FPR作.
模型效果评估指标（ROC、AUC/KS、Lift、PSI）
baidu_38432186的博客
12-17 1万+
ROC/AUC
ks 曲线_一文读懂评分卡的IV、KS、AUC、GINI指标
weixin_30982943的博客
01-08 3317
前言：当一张评分卡构建完成时，筛选出一组特征生成了分数，我们会想要知道这个分数是否靠谱，即是否可以依赖这个分数将好坏客户区分开来，这个时候就需要评判评分卡有效性的指标。测量评分卡好坏区分能力的指标有许多，本文就为大家介绍几个常用的定量指标： 散度（分数为连续函数）与信息比率（IV);KS值在这篇文章当中，花了极大的笔墨从数学的角度证明了KS值的存在性和函数性质问题：KS分布为什么F(s|B)为凹函...
KS（洛伦兹曲线）
love1005lin的博客
11-03 3020
KS（洛伦兹曲线） KS(Kolmogorov-Smirnov)值越大，表示模型能够将正、负客户区分开的程度越大。KS值的取值范围是[0，1] 通常来讲，KS>0.2即表示模型有较好的预测准确性。 ks求解方法： ks需要TPR和FPR两个值：真正类率(true positive rate ,TPR), 计算公式为TPR=TP/ (TP+ FN)，刻画的是分类器所识别出的 正实例占所有正实例的比例。另外一个是假正类率(false positive rate, FPR),计算公式为FPR= FP / (
ks检验正态分布结果_k-s检验结果怎么解读
weixin_39968861的博客
12-20 8172
1.ashixue新手上路注册于:2008/02/28发帖数:3(Ⅰ)正规的正态性检验可以通过PROCUNIVARIATE中的选择项NORMAL来实现。输出结果包括6部分。其中第4部分输出正态检验结果：当样本数N<2000时，shapiro-wilk的W统计量检验正态性；当样本数N>2000时，Kolmogorov-Smirnov的D统计量检验正态性；检验时，根据样本计算一个统计...
ks 曲线_ROC曲线与KS曲线的理解
weixin_30064143的博客
01-14 895
ROC曲线ROC曲线是评判一个模型好坏的标准，有两个值要知道，FPR(假正率)和TPR(真正率)，ROC曲线就是以这两个值为坐标轴画的。比如逻辑回归得到的结果是概率，那么就要取阈值来划分正负，这时候，每划一个阈值，就会产生一组FPR和TPR的值，然后把这组值画成坐标轴上的一个点，这样，当选取多组阈值后，就形成了ROC曲线(每次选取一个不同的阈值，我们就可以得到一组FPR和TPR，即ROC曲线上的一...
python计算ks值 代码_python画KS图,求KS值
weixin_42161497的博客
02-04 4552
ks计算公式ks用来衡量以一定阈值选定二分类模型预测结果集,各分类命中各自组内比重的差值,某一刻阈值使得此差值最大,此刻的差值就是ks值,ks越大代表模型可以更多地命中某类标签,同时尽可能地错判另一类的标签,具体公式如下:数据输入输入:predictions, labels,cut_pointpredictions: 为每条样本的预测值组成的集合,预测概率在0-1之间labels: 为每条样本的真...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值