一、前言
通常,我们获得需求后,从业务的角度,思考需要哪些特征、从哪里采集这些特征。
课堂中,我们可以舍弃上面的步骤,直接使用数据即可。
二、数据探索
看一看数据特点,分析适合用什么样的模型去处理。
1、 缺失值
(1)有些模型允许有缺失值,如Xgboost,LGVM,模型实现的时候,已经考虑到将缺失值当作一种方式。
(2)查找缺失值:
(2.1)data.info()
(2.2)data.isnull().sum()
(3)处理缺失值
(3.1)data.to_csv('test.csv',encoding='utf-8',na_rep='-')
2、异常值、噪声点:
(1)根据常识,如年龄=200岁,明显就是异常值。
(2)直方图:正态分布,尾部应该平滑,而不是凸起。