零基础入门金融风控-贷款违约预测-Task02

        有幸参加了阿里云举办的零基础入门金融风控-贷款违约预测训练营。收获颇多。

        每天记录一些自己之前的知识盲点,需经常温习。

        第二次的学习任务,是EDA。即Exploratory Data Analysis,探索性数据分析。

一、数据集基本情况分析

        数据集分为训练集和测试集。第一次任务时已经将训练集和测试集中重复的列进行了删除,最终形状如下:

        

        通过train.info()可以查看训练集的基本信息(非空值数量、数据类型、行列数等):

       

        通过train.describe()可以查看训练集的一些基本统计量:

        

        (注:为了防止列数过多导致显示不全,此处使用了.T进行了转置,算是一个小小的trick。)

二、查看数据集缺失值及唯一值

1、缺失值

        通过train.isnull().sum()查看缺失值详细信息,包括都有哪些列是缺失值,以及具体缺失值的数量:

        

        通过train.isnull().any().sum()查看缺失值列数的个数,发现共有21列(教程上没有删除重复列,写成了22列,其实是不对的hhh~):

        

        缺失值可视化(这里的代码实现方式和教程上不一样,二者皆可):

        

2、唯一值

        通过如下代码查看训练集的唯一值:

        

        测试集代码相同,发现都是'policyCode'这一列,该列值全为1,没有实际区分意义,可以考虑在做特征工程阶段将其删除。

三、数据可视化

        一图胜千言,数据可视化的魅力我想大家都有所体会吧!

        变量类型可以大体上分为类别型变量和数值型变量,其中数值型变量可分为离散型数值变量和连续型数值变量。

        而数据可视化,主要指的是数值型变量的可视化。通过生动形象的图形可以做出统计学相关的分析,如是数据集否服从正态分布、偏态、峰度等等。

        从之前的train.info()中得知,训练集的数据类型有三种:object、int64和float64,object类型即为类别型变量,int64和float64为数值型变量。故可用如下代码获得类别型变量和数值型变量(这里的代码实现方式和教程上不一样,二者皆可):

        

        

        由于数值型变量可分为离散型数值变量和连续型数值变量,故可进行进一步划分。

未完待续。。。

        

 

©️2020 CSDN 皮肤主题: 编程工作室 设计师:CSDN官方博客 返回首页