数据分析建模之逻辑回归(Logistic Regression)-使用toad进行评分卡建模详细步骤

置顶 已于 2022-12-30 10:15:41 修改
阅读量3.2k 收藏 40
点赞数 4
分类专栏： 机器学习与数据分析 文章标签： 数据分析 逻辑回归 python 算法
于 2022-12-13 14:55:05 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39837305/article/details/128296317
版权

目录

0.引言

一、概念

二、工具

三、建模思路

四、代码

1.数据读取

2.数据集划分

3.特征计算

4.特征分箱

5.转换WOE值

6.特征选择

7.模型训练

8.模型评估

9.模型验证

10.分值转换

0.引言

评分卡建模的目的是根据现有的数据对用户的好坏进行预测，比如一个人35岁左右，正值事业上升期，拥有高学历，薪资水平稳定，那么我们根据这些特点就可以断定，这个用户大概率是有还款能力的。反之一个18岁的精神小伙，没有经济能力，那么银行是不会给他进行贷款的。

当然，银行绝不可能根据简单的几个特征去判断用户的好坏，银行实际会根据成百上千个维度去进行判别，此时再使用人工来进行判断，不仅非常困难，还存在一定的主观性，不够准确。

下面我们通过一个案例来搞懂这个问题。

我们的目标是：通过银行给出的用户信息来判断用户的好坏，形成一套评分卡模型。

一、概念

在金融风控领域，评分卡模型是非常常见的一种模型，主要分为三类：

1.申请评分卡（Application score card），称为A卡

2.行为评分卡（Behavior score card），称为B卡

3.催收评分卡（Collection score card），称为C卡

今天我们探讨的主要是A卡。

二、工具

python作为一种面向对象的语言，拥有庞大的第三方库，上手简单。下面为大家介绍一个评分卡建模的第三方库-toad。

toad由国内一家金融公司进行开发维护，网址如下：

Welcome to toad’s documentation! — toad 0.1.1 documentation

使用的数据集依然还是大家耳熟能详的德国信用卡数据，下面是kaggle的网址：

https:www.kaggle.com/c/GiveMeSomeCredit/data

为了方便大家下载与学习，这里给大家提供一个经过预处理的数据集。

百度网盘下载：

链接：https://pan.baidu.com/s/1Sam9Utr6u7JR2EyGZeP9gQ?pwd=8ijj 
提取码：8ijj

三、建模思路

1.首先，拿到一份数据集（这里提供了经过预处理的版本），先要查看数据的分布情况以及数据的类型，对数据有个大概的了解，toad可以直接生成EDA（探索性分析，包括均值、中位数、最大最小值等信息）报告。

2.划分数据集，一个机器学习的模型训练，数据集通常分为三部分，包括训练集、测试集、验证集，可以根据自己的数据情况进行划分。

3.特征值计算。评分卡模型使用的指标包含IV值，GINI值等，这都是对于某个指标预测能力的一个量度，具体概念可以自己进行查阅。

4.特征选择与分箱。根据特征值，筛选一些有用的特征，在机器学习中并不是所有的数据都是可用的，往往几十个维度的数据筛选后只能保留十几个甚至几个特征。

分箱通俗的说，就是把数据进行分组，每一组数据中都包含好坏用户，比如100个数据，分为2组，每组50个，其中一组10个坏用户，40个好用户；另一组8个坏用户，42个好用户。分箱的主要目的是去噪,将连续数据离散化后,特征会更稳定。

5.模型训练与评估。

四、代码

1.数据读取

 这部分不用多说，就是查看一下数据的基本状况，主要看看是否有空值。

import numpy as np
import pandas as pd

from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split

import toad
from toad.plot import badrate_plot,proportion_plot,bin_plot
from toad.metrics import KS,F1,AUC
#1.读入数据
data = pd.read_csv('E://cs-training1.csv')

#数据描述
data.info()
data.describe()
data.head()

2.数据集划分

2.1 这部分有一个数据集划分的函数：train_test_split(train_data,train_target,test_size, random_state=0)，参数从左到右依次是：

  • 1.传入进行训练的特征数据（也就是除了好坏用户的所有数据，所以是drop('好坏用户')）
  • 2.结果数据（也就是好坏用户）
  • 3.样本划分比例，这里是3:1（0.75/0.25）
  • 4.随机数种子

这个函数的返回值是四个：Xtr,Xts,Ytr,Yts，样本训练集（里面就是特征，比如年龄、固定资产等）、样本测试集、结果训练集（里面就是结果，也就是好坏用户）、结果测试集。

#2.样本分区
Xtr,Xts,Ytr,Yts = train_test_split(data.drop('SeriousDlqin2yrs',axis=1),
                                   data['SeriousDlqin2yrs'],
                                   test_size=0.25,
                                   random_state=450)
data_tr = pd.concat([Xtr,Ytr],axis=1)
data_tr['type'] = 'train'
data_ts = pd.concat([Xts,Yts],axis=1)
data_ts['type'] = 'test'

2.2 下面的pd.concat()用于拼接数据，将训练集与测试集分别拼接在一起，后续继续处理。

下面我们用到了主角toad，进行探索性分析：

#3.数据EDA报告
toad.detector.detect(data_tr).to_excel(r'E:/数据EDA结果.xlsx')

结果被保存在excel中，这里就不展示了，自己可以动手尝试一下，看看生成的内容是什么。

3.特征计算

3.1 这就是toad包强大的地方，只需要传入数据，不需要经过复杂的预处理，就可以得到数据的特征值，得到的特征值都有各自合适的范围，并不是单纯的越大或者越小越好。

#4.数据特征分析计算特征IV、gini、entropy、unique
quality = toad.quality(data,'SeriousDlqin2yrs')
quality.head(6)

这里说明一下IV值的计算方式，这个是在特征选择中最重要的指标之一。计算IV值之前，还要理解WOE的计算方式，因为IV值的计算是以WOE为基础的。

对于一个分组后的变量，第i组的WOE计算公式如下：

WOE_{i}=ln(\frac{py_{i}}{pn_{i}})=ln(\frac{\tfrac{y_{i}}{y_{T}}}{\frac{n_{i}}{n_{T}}})=ln(\frac{\tfrac{y_{i}}{n_{i}}}{\frac{y_{T}}{n_{T}}})

那么对应的第i组的IV值计算公式如下：

IV_{i}=(py_{i}-pn_{i})*WOE_{i}=(py_{i}-pn_{i})*ln(\frac{py_{i}}{py_{n}})=(\frac{y_{i}}{y_{T}}-\frac{n_{i}}{n_{T}})*ln(\frac{\frac{y_{i}}{y_{T}}}{\frac{n_{i}}{n_{T}}})

再将所有的IV值求和：

IV=\sum_{i}^{n} IV_{i}

 3.2 特征预筛选。

selected_train,drop_lst = toad.selection.select(data_tr,target='SeriousDlqin2yrs',
                                                empty=0.5,
                                                corr=0.7,
                                                return_drop=True,
                                                exclude='type')

这里说一下toad.selection.select方法，用于筛选数据，传入的参数分别为：

data_tr：训练用的特征数据

target：结果数据

empty：缺失值大于多少进行删除

corr：保留相关性大于多少的数据

return_drop: 若为True，function将返回被删去的变量列

exclude: 明确不被删去的列名，输入为list格式

返回的数据是筛选后的数据和删除的内容（格式为list）,所以有两个返回值。

#5.特征预筛选
selected_train,drop_lst = toad.selection.select(data_tr,target='SeriousDlqin2yrs',
                                                empty=0.5,
                                                corr=0.7,
                                                return_drop=True,
                                                exclude='type')
selected_test = data_ts[selected_train.columns]
selected_train.shape
drop_lst #删除的变量

4.特征分箱

toad的分箱功能支持数值型数据和离散型分箱，默认分箱方法使用卡方分箱。

卡方分箱是自底向上的(即基于合并的)数据离散化方法。它依赖于卡方检验:具有最小卡方值的相邻区间合并在一起,直到满足确定的停止准则。
基本思想:对于精确的离散化，相对类频率在一个区间内应当完全一致。因此,如果两个相邻的区间具有非常类似的类分布，则这两个区间可以合并；否则，它们应当保持分开。而低卡方值表明它们具有相似的类分布。

​

这篇文章我们主要讨论过程，就不叙述过多的概念了。

4.1 首先需要初始化一个Combiner类，这就是一个用作分箱的类。

#初始化一个combiner类
combiner = toad.transform.Combiner()

4.2  训练分箱，其中method是分箱方法，类别有：’chi’ (卡方分箱), ‘dt’ (决策树分箱), ‘kmean’ , ‘quantile’ (等频分箱), ‘step’ (等步长分箱)

#训练数据并制定分箱方法，需要分箱的变量共7个
combiner.fit(selected_train,
             y='SeriousDlqin2yrs',
             method='chi',
             min_samples=0.05,
             exclude='type')

4.3 查看分箱结果：

#以字典的形式保存分箱结果
bins = combiner.export()

为了更直观的观察，还可以把特征的分箱图画出来，这里放几个图片，具体方法会在后面完整代码写出。

 4.5 调整合并分箱

对于离散型的数据可以进行手动分箱：

#定义调整分箱
#调整分箱切分点
bins_adj=bins
bins_adj["age"] = [22,35,45,60]
bins_adj["NumberOfOpenCreditLinesAndLoans"] = [2]
bins_adj["DebtRatio"] = [0.02,0.4,0.5,2]

#定义分类合并器
combiner2 = toad.transform.Combiner() #定义分箱combiner
combiner2.set_rules(bins_adj) #设置需要施加的分箱

#应用调整分箱
selected_train_binadj = combiner2.transform(selected_train)

注意：这些变量其实是我们之前处理过的，为了更好的确定各箱的边界，所以单独再进行设置。

5.转换WOE值

计算后的WOE值我们无法直接使用，需要进行转换：

#设置分箱号
combiner.set_rules(bins_adj)

#特征转化的值转化为分箱的箱号
selected_train_binadj = combiner.transform(selected_train)
selected_test_binadj = combiner.transform(selected_test)

#定义WOE转换器
WOETransformer = toad.transform.WOETransformer()

#对WOE的值进行转化，映射到原数据集上，对训练集使用fit_transform()方法转化，对测试集使用transform()方法转化
data_tr_woe = WOETransformer.fit_transform(selected_train_binadj,
                                           selected_train_binadj['SeriousDlqin2yrs'],
                                           exclude=['SeriousDlqin2yrs','type'])
data_ts_woe = WOETransformer.transform(selected_test_binadj)

其实这部分就是很固定的一种写法，在使用自己数据集时把参数进行替换即可。

6.特征选择

有的读者看到这里可能会问，为什么要进行两次的特征筛选，是因为我们之前筛选指标的量度只有缺失率和相关性，下面采用的是逐步回归的方法。

train_final = toad.selection.stepwise(data_tr_woe.drop('type',axis=1),
                                      target='SeriousDlqin2yrs',
                                      direction='both',
                                      criterion='aic'
                                     )
test_final = data_ts_woe[train_final.columns]
print(train_final.shape) #7个特征减少为5个

说一下toad.selection.stepwise()的参数：

  • estimator: 用于拟合的模型，支持'ols', 'lr', 'lasso', 'ridge'
  • direction: 逐步回归的方向，支持'forward', 'backward', 'both' （推荐）
  • criterion: 评判标准，支持'aic', 'bic', 'ks', 'auc'
  • max_iter: 最大循环次数
  • return_drop: 是否返回被剔除的列名
  • exclude: 不需要被训练的列名

7.模型训练

调用逻辑回归进行训练。

#准备数据
Xtr = train_final.drop('SeriousDlqin2yrs',axis=1)
Ytr = train_final['SeriousDlqin2yrs']

#逻辑回归模型拟合
lr = LogisticRegression()
lr.fit(Xtr,Ytr)

#打印模型拟合的参数
lr.coef_
lr.intercept_

8.模型评估

#在训练集上的模型表现
EYtr_proba = lr.predict_proba(Xtr)[:,1]
EYtr_proba = lr.predict(Xtr)

print('train F1:',F1(EYtr_proba,Ytr))
print('train KS:',KS(EYtr_proba,Ytr))
print('train AUC:',AUC(EYtr_proba,Ytr))

#分值排序性
tr_bucket = toad.metrics.KS_bucket(EYtr_proba,Ytr,bucket=10,method='quantile')
#等频分段
tr_bucket

9.模型验证

#在测试集上的模型表现
Xts = test_final.drop('SeriousDlqin2yrs',axis=1)
Yts = test_final['SeriousDlqin2yrs']

EYtr_proba = lr.predict_proba(Xts)[:,1]
EYts = lr.predict(Xts)

print('train F1:',F1(EYtr_proba,Yts))
print('train KS:',KS(EYtr_proba,Yts))
print('train AUC:',AUC(EYtr_proba,Yts))

#基于分箱之后的数据，比较训练集、测试集变量稳定性分布是否有显著差异
psi = toad.metrics.PSI(train_final,test_final)
psi.sort_values(0,ascending=False)

10.分值转换

scorecard = toad.scorecard.ScoreCard(combiner=combiner,transer=WOETransformer,C=0.1)
scorecard.fit(Xtr,Ytr)
scorecard.export(to_frame=True)

后面的步骤比较粗略，有机会再补充。

欢迎批评指正！

完整源码：

import numpy as np
import pandas as pd

from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split

import toad
from toad.plot import badrate_plot,proportion_plot,bin_plot
from toad.metrics import KS,F1,AUC

#1.读入数据
data = pd.read_csv('E://cs-training1.csv')

#数据描述
data.info()
data.describe()
data.head()

#2.样本分区
Xtr,Xts,Ytr,Yts = train_test_split(data.drop('SeriousDlqin2yrs',axis=1),
                                   data['SeriousDlqin2yrs'],
                                   test_size=0.25,
                                   random_state=450)
data_tr = pd.concat([Xtr,Ytr],axis=1)
data_tr['type'] = 'train'
data_ts = pd.concat([Xts,Yts],axis=1)
data_ts['type'] = 'test'

#3.数据EDA报告
toad.detector.detect(data_tr).to_excel(r'E:/数据EDA结果.xlsx')

#4.数据特征分析计算特征IV、gini、entropy、unique
quality = toad.quality(data,'SeriousDlqin2yrs')
quality.head(6)

#5.特征预筛选
selected_train,drop_lst = toad.selection.select(data_tr,target='SeriousDlqin2yrs',
                                                empty=0.5,
                                                corr=0.7,
                                                return_drop=True,
                                                exclude='type')
selected_test = data_ts[selected_train.columns]
selected_train.shape
drop_lst #删除的变量

#6.特征分箱

#初始化一个combiner类
combiner = toad.transform.Combiner()

#训练数据并制定分箱方法，需要分箱的变量共7个
combiner.fit(selected_train,
             y='SeriousDlqin2yrs',
             method='chi',
             min_samples=0.05,
             exclude='type')

#以字典的形式保存分箱结果
bins = combiner.export()

#查看每个特征的分箱结果
print('DebtRatio分箱cut:',bins['DebtRatio'])
print('MonthlyIncome分箱cut',bins['MonthlyIncome'])
print('NumberOfOpenCreditLinesAndLoans分箱cut',bins['NumberOfOpenCreditLinesAndLoans'])
print('NumberRealEstateLoansOrLines分箱cut',bins['NumberRealEstateLoansOrLines'])
print('NumberOfTimes90DaysLate分箱cut',bins['NumberOfTimes90DaysLate'])
print('RevolvingUtilizationOfUnsecuredLines分箱cut',bins['RevolvingUtilizationOfUnsecuredLines'])
print('age分箱cut',bins['age'])

#使用combine.transform()方法对数据进行分箱转换
selected_train_bin = combiner.transform(selected_train)

#画分箱图，使用bin_plot函数绘制双轨图和分箱占比、分箱坏账率关系图
proportion_plot(selected_train_bin['DebtRatio'])
proportion_plot(selected_train_bin['MonthlyIncome'])
proportion_plot(selected_train_bin['NumberOfOpenCreditLinesAndLoans'])
proportion_plot(selected_train_bin['NumberRealEstateLoansOrLines'])
proportion_plot(selected_train_bin['NumberOfTimes90DaysLate'])
proportion_plot(selected_train_bin['RevolvingUtilizationOfUnsecuredLines'])
proportion_plot(selected_train_bin['age'])

badrate_plot(selected_train_bin,target='SeriousDlqin2yrs',x='type',by='DebtRatio')
badrate_plot(selected_train_bin,target='SeriousDlqin2yrs',x='type',by='MonthlyIncome')
badrate_plot(selected_train_bin,target='SeriousDlqin2yrs',x='type',by='NumberOfOpenCreditLinesAndLoans')
badrate_plot(selected_train_bin,target='SeriousDlqin2yrs',x='type',by='NumberRealEstateLoansOrLines')
badrate_plot(selected_train_bin,target='SeriousDlqin2yrs',x='type',by='NumberOfTimes90DaysLate')
badrate_plot(selected_train_bin,target='SeriousDlqin2yrs',x='type',by='RevolvingUtilizationOfUnsecuredLines')
badrate_plot(selected_train_bin,target='SeriousDlqin2yrs',x='type',by='age')

bin_plot(selected_train_bin,x='DebtRatio',target='SeriousDlqin2yrs')
bin_plot(selected_train_bin,x='MonthlyIncome',target='SeriousDlqin2yrs')
bin_plot(selected_train_bin,x='NumberOfOpenCreditLinesAndLoans',target='SeriousDlqin2yrs')
bin_plot(selected_train_bin,x='NumberRealEstateLoansOrLines',target='SeriousDlqin2yrs')
bin_plot(selected_train_bin,x='NumberOfTimes90DaysLate',target='SeriousDlqin2yrs')
bin_plot(selected_train_bin,x='RevolvingUtilizationOfUnsecuredLines',target='SeriousDlqin2yrs')
bin_plot(selected_train_bin,x='age',target='SeriousDlqin2yrs')

#7.调整合并分箱
#定义调整分箱
#调整分箱切分点
bins_adj=bins
bins_adj["age"] = [22,35,45,60]
bins_adj["NumberOfOpenCreditLinesAndLoans"] = [2]
bins_adj["DebtRatio"] = [0.02,0.4,0.5,2]

#定义分类合并器
combiner2 = toad.transform.Combiner() #定义分箱combiner
combiner2.set_rules(bins_adj) #设置需要施加的分箱

#应用调整分箱
selected_train_binadj = combiner2.transform(selected_train)

#画分箱坏账率图
proportion_plot(selected_train_binadj['DebtRatio'])
proportion_plot(selected_train_binadj['MonthlyIncome'])
proportion_plot(selected_train_binadj['NumberOfOpenCreditLinesAndLoans'])
proportion_plot(selected_train_binadj['NumberRealEstateLoansOrLines'])
proportion_plot(selected_train_binadj['NumberOfTimes90DaysLate'])
proportion_plot(selected_train_binadj['RevolvingUtilizationOfUnsecuredLines'])
proportion_plot(selected_train_binadj['age'])

badrate_plot(selected_train_binadj,target="SeriousDlqin2yrs",x='type',by='DebtRatio')
badrate_plot(selected_train_binadj,target='SeriousDlqin2yrs',x='type',by='MonthlyIncome')
badrate_plot(selected_train_binadj,target='SeriousDlqin2yrs',x='type',by='NumberOfOpenCreditLinesAndLoans')
badrate_plot(selected_train_binadj,target='SeriousDlqin2yrs',x='type',by='NumberRealEstateLoansOrLines')
badrate_plot(selected_train_binadj,target='SeriousDlqin2yrs',x='type',by='NumberOfTimes90DaysLate')
badrate_plot(selected_train_binadj,target='SeriousDlqin2yrs',x='type',by='RevolvingUtilizationOfUnsecuredLines')
badrate_plot(selected_train_binadj,target='SeriousDlqin2yrs',x='type',by='age')

#8. 转换WOE值
#设置分箱号
combiner.set_rules(bins_adj)

#特征转化的值转化为分箱的箱号
selected_train_binadj = combiner.transform(selected_train)
selected_test_binadj = combiner.transform(selected_test)

#定义WOE转换器
WOETransformer = toad.transform.WOETransformer()

#对WOE的值进行转化，映射到原数据集上，对训练集使用fit_transform()方法转化，对测试集使用transform()方法转化
data_tr_woe = WOETransformer.fit_transform(selected_train_binadj,
                                           selected_train_binadj['SeriousDlqin2yrs'],
                                           exclude=['SeriousDlqin2yrs','type'])
data_ts_woe = WOETransformer.transform(selected_test_binadj)

#9.特征选择，使用stepwise()方法选择变量
train_final = toad.selection.stepwise(data_tr_woe.drop('type',axis=1),
                                      target='SeriousDlqin2yrs',
                                      direction='both',
                                      criterion='aic'
                                     )
test_final = data_ts_woe[train_final.columns]
print(train_final.shape) #7个特征减少为5个

#10.模型训练
#准备数据
Xtr = train_final.drop('SeriousDlqin2yrs',axis=1)
Ytr = train_final['SeriousDlqin2yrs']

#逻辑回归模型拟合
lr = LogisticRegression()
lr.fit(Xtr,Ytr)

#打印模型拟合的参数
lr.coef_
lr.intercept_

#11.模型评估
#在训练集上的模型表现
EYtr_proba = lr.predict_proba(Xtr)[:,1]
EYtr_proba = lr.predict(Xtr)

print('train F1:',F1(EYtr_proba,Ytr))
print('train KS:',KS(EYtr_proba,Ytr))
print('train AUC:',AUC(EYtr_proba,Ytr))

#分值排序性
tr_bucket = toad.metrics.KS_bucket(EYtr_proba,Ytr,bucket=10,method='quantile')
#等频分段
tr_bucket

#12.模型验证
#在测试集上的模型表现
Xts = test_final.drop('SeriousDlqin2yrs',axis=1)
Yts = test_final['SeriousDlqin2yrs']

EYtr_proba = lr.predict_proba(Xts)[:,1]
EYts = lr.predict(Xts)

print('train F1:',F1(EYtr_proba,Yts))
print('train KS:',KS(EYtr_proba,Yts))
print('train AUC:',AUC(EYtr_proba,Yts))

#基于分箱之后的数据，比较训练集、测试集变量稳定性分布是否有显著差异
psi = toad.metrics.PSI(train_final,test_final)
psi.sort_values(0,ascending=False)

#13.分值转换
scorecard = toad.scorecard.ScoreCard(combiner=combiner,transer=WOETransformer,C=0.1)
scorecard.fit(Xtr,Ytr)
scorecard.export(to_frame=True)

江湖人称桂某人
关注
  • 4
    点赞
  • 踩
  • 40
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
risk库scorecard-report(自动化评分卡开发)工具输出报告
09-07
该附件为python包risk库中自动化评分卡开发工具最终输出报告演示，以便参考！ 首页为目录，可自动跳转至所需的sheet页，且每个sheet亦有返回目录跳转。覆盖了评分卡开发的各个环节。 本次建模以德国信贷数据作为数据源进行演示。 欢迎大家下载risk库！
基于Toad及逻辑回归算法的风控评分模型
The丶Star
12-27 481
说明：文章内容记录核心代码及主要流程，核心标签及数据分析结果只做示例展示，核心标签以中文展示。2023年12月27日。
评分卡应用 - 利用Toad进行有监督分箱（卡方分箱/决策树分箱）
素质云笔记
07-30 8037
toad是针对工业届建模而开发的工具包，针对风险评分卡的建模有针对性的功能。toad持续更新优化中，本教程针对toad的各类主要功能进行介绍， 包括： EDA相关功能 如何使用toad高效分箱并进行特征筛选 WOE转化 逐步回归特征筛选 模型检验和评判 标准评分卡转化和输出 其他功能 中文教程：toad使用教程 文章目录1 Toad — EDA 工具2 变量的iv值 —— quality2.1 IV值解读2.2 toad.quality3 如何使用toad高效分箱并进行特征筛选4 toad分箱5 观
逻辑回归评分卡实战-toad
nikita_zj的博客
01-29 5369
逻辑回归评分卡实战-toad
使用toad做一张逻辑回归贷前评分卡
zzpl139的博客
10-27 1266
基于toad做一张逻辑回归评分卡
使用toad对数据进行分箱处理
gjinc的博客
07-31 931
Toad 是专为工业界模型开发设计的Python工具包，特别针对评分卡的开发。Toad 的功能覆盖了建模全流程，从 EDA、特征工程、特征筛选到模型验证和评分卡转化。Toad 的主要功能极大简化了建模中最重要最费时的流程，即特征筛选和分箱。一般分箱的折线图要实现单调的趋势，所以我们要调整分箱的箱数。0和1组存在倒挂，即badrate不单调，0和1进行合并。使用toad进行分箱，并输出分箱的内容。读取数据并查看数据基本内容。使用toad计算woe。
使用toad库进行机器学习评分卡全流程
gjinc的博客
08-03 1245
定义模型函数的使用函数，在函数中分别进行正向调用和逆向调用，验证模型的效果上限。如逆向模型训练集KS值明显小于正向模型训练集KS值，说明当前时间外样本分布与开发样本差异较大，需要重新划分样本集。我们能看到前3箱出现上下波动，与整体的单调递减趋势不符，所以进行分箱合并。绘制Bivar图，观察该特征分享后是否单调性，不满足单调性需要调整分箱。由于卡方分箱后部分变量的IV降低，且整体相关程度增大，需要再次筛选特征。使用逐步回归进行特征筛选，这里为线性回归模型，并选择KS作为评价指标。生成验证集的ks报告。
Toad：一款基于 Python 的开源评分卡神器
Python学习与数据挖掘
05-02 7880
在信贷的风控模型中最常用、最经典的可能要属评分卡了，所谓评分卡就是给信贷客户进行打分，按照不同业务场景可为贷前、贷中、贷后和反欺诈，一般叫做ABCF卡。模型得到分数，通过设置cutoff阈值给出评估结果，结果可直接用于通过或拒绝，或者用于策略应用。 区别于 xgb 等机器学习模型，评分卡使用逻辑回归，之所是还在使用时因为它属于广义线性回归，在特征的解释性上非常的强。 今天我给大家分享一个开源的评分卡神器toad。从数据探索、特征分箱、特征筛选、特征WOE变换、建模、模型评估、转换分数，都做了完美的包装，可以
toad -评分卡模型
风口浪尖上的猪
07-05 1311
Toad简介 一个可以用作数据探查、特征选择和评分卡模型建模的python工具包。 参考： https://www.cnblogs.com/cgmcoding/p/14026520.html https://www.freesion.com/article/2550417274/ 1.EDA数据探查 toad.detect() # 高阶版 describe功能 以datafountain中非法集资案例中的数据为例，base_info.csv import toad import pandas base =
pandas绘图plot函数
路在脚下
04-17 4678
Pandas 之所以能够实现了数据可视化，主要利用了 Matplotlib 库的 plot() 方法，它对 plot() 方法做了简单的封装。
TOAD的使用
11-09
TOAD FOR ORACLE DEVELOP产品介绍 1 1. TOAD简介 3 版本划分 3 2. 数据库开发最佳实践 5 2.1. 开发 6 2.1.1. 项目管理(Project Manager) 6 2.1.2. 模式浏览(Schema Browser) 7 2.1.3. 高级编辑器(SQL Editor) 8 2.1.4. 调试(PL/SQL Debugger) 9 2.1.5. 代码分析(Code Profiling) 10 2.1.6. 代码审核(Code Xpert) 12 2.1.7. 团队开发(Team Coding) 12 2.1.8. 代码测试(Code Tester) 13 2.1.9. 知识库(Knowledge Xpert) 14 2.2. 优化(SQL OPTIMIZER) 15 2.2.1. 分析SQL 15 2.2.1.1. SQL Scanner 15 2.2.1.2. SQL Inspector 16 2.2.1.3. Impact Analysis 17 2.2.2. 优化SQL 18 2.2.3. 优化索引 18 2.3. 验证 19 2.3.1. Benchmark Factory 20 3. 其它ORACLE产品简介 21 3.1. SPOTLIGHT ON ORACLE 21 3.2. PERFORMANCE ANALYSIS 22 3.3. SPACE MANAGER WITH LIVEREORG 22 3.4. SHAREPLEX 23
吴恩达老师《机器学习》课后习题2之逻辑回归(logistic-regression)
06-14
ex2data1.txt和ex2data2.txt
机器学习之逻辑回归（LogisticRegression）
02-24
之前的文章中，我们讨论的垃圾邮件分类实际上就是一个分类问题。类似的例子还有很多，例如一个在线交易网站判断一次交易是否带有欺诈性（有些人可以使用偷来的信用卡，你懂的）。再如，之前判断一个肿瘤是良性的还是恶性的，也是一个分类问题。在以上的这些例子中，我们想预测的是一个二值的变量，或者为0，或者为1；或者是一封垃圾邮件，或者不是；或者是带有欺诈性的交易，或者不是；或者是一个恶性肿瘤，或者不是。我们可以将因变量（dependantvariable）可能属于的两个类分别称为负向类（negativeclass）和正向类（positiveclass）。可以使用0来代表负向类，1来代表正向类。现在，我们的分类
DataScience：风控场景之金融评分卡模型构建—将逻辑回归LoR模型结果转为评分卡之详细攻略
06-19
DataScience：风控场景之金融评分卡模型构建—将逻辑回归LoR模型结果转为评分卡之详细攻略 金融评分卡模型构建—将逻辑回归LoR模型结果转为评分卡 1、模型结果转换为标准评分卡步骤 2、实际案例应用 金融评分卡模型构建—将逻辑回归LoR模型结果转为评分卡 1、模型结果转换为标准评分卡步骤 借助逻辑回归模型，评分卡所设定的分值刻度，可通过将分值表示为比率对数的线性表达式来定义。 在建立评分卡模型时，我们经常会使用逻辑回归来对数据进行建模。但在用逻辑回归进行预测时，逻辑回归返回的是一个概率值，并不是评分卡分数。下面为大家介绍如何将模型结果转换为标准评分卡。
16.逻辑回归LogisticRegression分析鸢尾花数据1
08-04
1. 鸢尾花数据集 2. ] 2. 散点图绘制
数据分析：生存分析原理和应用实例
H20230717的博客
04-24 1496
生存分析讲解和R语言实现案例
人工智能底层自行实现篇3——逻辑回归（上）
m0_60388871的博客
04-21 1418
似然函数（Likelihood function）是统计学中的一个重要概念，用于**量化一个统计模型在给定一些样本数据下的参数估计的可能性。**简单地说，
吴恩达2022机器学习专项课程(一） 7.1 逻辑回归的成本函数&第三周课后实验：Lab4逻辑回归的损失函数
最新发布
AIGC_xuexishe的博客
04-25 1205
面对分类问题的训练集，需要对数损失函数来衡量每组训练样本的预测值和真实值的差异。差异的具体含义是y=1时，预测y为1的概率的大小。或者y=0时，预测y为0的概率的大小。损失函数是用于衡量单个训练样本，成本函数是衡量整个训练集，也就是累加损失函数的值，然后乘以m/1。如果逻辑回归模型使用平方误差成本函数计算，则成本函数会呈现局部最小值等特点，梯度下降算法可能无法有效地找到全局最优解。
吴恩达2022机器学习专项课程(一） 6.2 逻辑回归&第三周课后实验：Lab2逻辑回归
AIGC_xuexishe的博客
04-21 606
面对分类的问题，我们需要使用逻辑回归的sigmoid函数进行预测分类，这个函数是非线性函数。它的输出值在0-1之间，但不会等于0或等于1，只是会无限接近于0或1，因此可以把它的输出理解为等于1的概率或等于0的概率。给定一个x，如果它通过sigmoid得出的结果小于阈值，则分类到0，如果大于等于阈值，则分类到1，这就是分数预测。
logistic regression逻辑回归
06-28
### 回答1： Logistic回归是一种逻辑回归方法。它是一种特殊的回归方法，用于对于分类问题中的因变量建立预测模型。这种方法基于学习一个由输入变量到二元输出变量的条件概率来构建预测模型，用于对一个新的样本进行分类。它对于分类问题中的因变量建立预测模型非常有效。 ### 回答2： 逻辑回归是一种用于解决二分类问题的监督学习算法。它是一种基于概率统计的分类模型，可以用于预测分类结果。逻辑回归的输出结果是一个0到1之间的概率值，其含义是该样本属于某一类别的概率。 逻辑回归模型的基本假设是数据服从伯努利分布，也就是数据只有两种可能的取值，被称为正类和负类。对于给定的训练数据集，逻辑回归模型的目标是最大化似然函数，即最大化样本属于正类（或负类）的概率。利用最大似然估计方法，我们可以求解出逻辑回归模型的参数。在实际应用中，我们通常使用梯度下降等优化算法来求解模型参数。 逻辑回归模型有多种变体，如L1正则化逻辑回归、L2正则化逻辑回归、多项式逻辑回归等。其中，L1正则化逻辑回归可以实现特征选择，可以削减一些不重要的特征，从而简化模型，提高计算速度和模型的泛化能力。 在机器学习领域，逻辑回归是一个常用的模型。它广泛应用于各种领域，如网络广告点击率预测、信用风险评估、医疗诊断等。逻辑回归模型简单易实现，具有较高的解释性，是一个较为理想的分类算法。 ### 回答3： 逻辑回归（Logistic Regression）是一种经典的分类算法，在机器学习和统计学领域中得到广泛的应用。它旨在从已有的数据中构建一个能够预测类别的模型，输出结果为概率值，可以用于二分类或多分类问题的解决。 逻辑回归的基本原理是利用一个特定的函数对输入特征进行线性组合，然后将结果输入到一个Sigmoid函数中进行映射，将结果值压缩到0到1的范围内，表示输入属于某一类别的概率。这个Sigmoid函数可以被看作是一个阀门，控制着数据流向最终输出。它将具有很强预测能力的线性组合函数输出转化为概率输出的过程，将出现在中间层的结果值映射到[0,1]范围内，以表达某个样本属于某个类别的概率。 在训练模型时，逻辑回归使用的是最大似然估计的方法来确定模型的参数。在分类训练数据时，需要对样本经过一系列的处理，例如特征提取、特征转换、数据归一化等步骤。训练数据可以通过梯度下降法、牛顿迭代法等优化方法来确定最佳参数。通过此训练过程，模型可以学习到输入特征与输出概率之间的映射关系。 逻辑回归的优点包括了功能简单、速度快、易于实现和修改等等。它是机器学习中最为基本的分类算法之一，在数据挖掘、信用评估、自然语言处理、广告推荐等领域都有广泛的应用。逻辑回归作为一个二分类算法，常被用于解决分类问题。然而，在实际业务中，如何选择不同的逻辑回归模型及参数，对算法的效果和优化有着重要的影响。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值