评分卡模型大致流程

最新推荐文章于 2024-09-26 00:03:11 发布

叶禾风

最新推荐文章于 2024-09-26 00:03:11 发布

阅读量954

点赞数 24

文章标签：算法人工智能机器学习数学建模金融

本文链接：https://blog.csdn.net/qq_43487107/article/details/142333583

版权

评分卡模型开发流程：

一、数据清洗与预处理

数据预处理过程可分为：数据清洗、缺失值处理、异常值处理、数据转换（比如数据离散化）。并结合数据探索EDA检查是否完成预处理工作。

按照数据类型分为分类数据、数值数据进行处理：

二、特征工程

特征工程是整个模型构建中最重要的环节，决定了最终模型的预测效果。是一个涉及从原始数据中创建有意义的特征，是一个先升维（膨胀）后降维（收缩）的过程。

目的：最大化模型的性能，同时减少模型训练所需的时间和资源。

流程：包括变量编码、变量衍生、特征选择、相关性分析、多重共线性分析、变量选择等一系列工作。

（一）变量衍生之变量编码

1、One-hot编码

1.1 定义

将每个类别表示为一个二进制向量，向量长度等于类别总数N，其中只有一个位置是1，表示当前类别，其余位置为0。

1.2 例子

黑箱子里有20颗彩球，分别为红色、绿色、蓝色。则对其进行One-hot编码：

红色：[1, 0, 0] 绿色：[0, 1, 0] 蓝色：[0, 0, 1]

1.3 python实现

colors = ['红色', '绿色', '蓝色'] 
color_encoded = pd.get_dummies(colors, prefix='颜色')

1.4 特性

避免排序：不涉及类别之间的排序，适用于类别之间没有顺序关系的情况。

维度灾难：当类别数量非常大时，生成向量维度也会大，消耗大量的计算资源。

稀疏性：大多数位置是0。

2、Dummy variable 编码

2.1 定义

为每个非基准类别创建一个二进制指示变量，其值为1表示该类别存在，0表示不存在。

2.2 例子

黑箱子里有20颗彩球，分别为红色、绿色、蓝色。则对其进行Dummy variable 编码：

红色：[0, 0] (基准类别，不编码) 绿色：[0, 1] 蓝色：[1, 0]

2.3 python实现

#不创建基准类别的虚拟变量

color_encoded = pd.get_dummies(colors, prefix='颜色', drop_first=True)

2.4 特性

避免完全多重共线性：由于不创建基准类别的虚拟变量。

基准类别假设：模型的结果可能会受到基准类别选择的影响。

解释性：模型解释性不如One-Hot直观。

3、Label 编码

3.1 定义

将分类变量转换为整数形式，作为标签。向量的长度等于（类别总数N-1）

3.2 例子

黑箱子里有20颗彩球，分别为红色、绿色、蓝色。则对其进行Label 编码：
红色：1 绿色：2 蓝色：3

3.3 python实现

from sklearn.preprocessing import LabelEncoder

# 初始化LabelEncoder对象

le = LabelEncoder()

color_encoded = le.fit_transform(colors)

3.4 特性

避免维度灾难：相对于One-Hot编码。

可保留类别间的关系：如果这些关系对模型预测是有用的。

可能会引入不存在的数值顺序关系：误导对特征值大小敏感的算法（如线性模型、KNN等）。

增加了模型的复杂度：因为需要更多的参数来拟合数据。

4、WOE 编码

关于WOE编码的详细了解请跳转链接

4.1 定义

WOE编码是对坏样本分布和好样本分布的比值再进行对数变换的结果。用于衡量分类变量中的某个类别与目标变量（通常是二分类的，如好客户/坏客户）之间的关系。

当WOE值为0表明特征没有区分能力；WOE值越大，权重越大，区分能力越强。正/负：该类别与目标事件（如违约）正/负相关。

4.2 例子

一个特征“是否有房产”的WOE编码例子。

4.3 python实现

一个特征“是否有房产”的WOE编码例子。
#1. 将分类变量转换为0和1
df['has_property_encoded'] = df['has_property'].map({'有': 1, '无': 0})
df['default_encoded'] = df['default'].map({'未违约': 1, '违约': 0})
#2. 计算每个分组的正负样本数量和总样本数量
total_positives = df[df['default_encoded'] == 1].shape[0]
total_negatives = df[df['default_encoded'] == 0].shape[0]
grouped = df.groupby('has_property_encoded')['default_encoded']
positives = grouped.sum()
negatives = grouped.count() - grouped.sum()
#3. 计算WOE值
woe = grouped.apply(lambda x: np.log((x.sum() / total_positives) / ((x.count() - x.sum()) / total_negatives)))
#4. 将WOE值添加到数据框中
df['WOE'] = df['has_property_encoded'].map(woe)