简介
天池 数据挖掘入门-二手车交易价格预测
地址 https://tianchi.aliyun.com/competition/entrance/231784/information
目标 探索性数据分析
- 了解数据集结构及特征
- 了解变量间关系,以及变量与预测值间的关系
- 探索性数据分析形成图表
步骤
- 载入各种数据科学以及可视化库:
数据科学库 pandas、numpy、scipy;
可视化库 matplotlib、seabon;
其他; - 载入数据:
载入训练集和测试集;
简略观察数据(head()+shape); - 数据总览:
通过describe()来熟悉数据的相关统计量
通过info()来熟悉数据类型 - 判断数据缺失和异常
查看每列的存在nan情况
异常值检测 - 了解预测值的分布
总体分布概况(无界约翰逊分布等)
查看skewness and kurtosis
查看预测值的具体频数 - 特征分为类别特征和数字特征,并对类别特征查看unique分布
- 数字特征分析
相关性分析
查看几个特征得 偏度和峰值
每个数字特征得分布可视化
数字特征相互之间的关系可视化
多变量互相回归关系可视化 - 类型特征分析
unique分布
类别特征箱形图可视化
类别特征的小提琴图可视化
类别特征的柱形图可视化类别
特征的每个类别频数可视化(count_plot) - 用pandas_profiling生成数据报告