DW数分Task02

1 缺失值观察
可以看到在上面的Cabin列存在NaN，那其他列还有没有缺失值，这些缺失值要怎么处理呢？
首先观察缺失值
(1) 请查看每个特征缺失值个数
df.info() #可以直接看到不缺失的值的数量
df.isnull().sum() # 统计缺失值的数量

单独提取 Age Cabin Embarked这三个特征
df[[‘Age’,‘Cabin’,‘Embarked’]].head(3)

2 对缺失值的处理
两种比较优劣
df[df[‘Age’] == np.nan] = 0
df[df[‘Age’]==None]=0

数值列读取数据后，空缺值的数据类型为float64所以用None一般索引不到，比较的时候最好用np.nan

3 特征观察与处理
我们对特征进行一下观察，可以把特征大概分为两大类：
数值型特征：Survived ，Pclass， Age ，SibSp， Parch， Fare，其中Survived， Pclass为离散型数值特征，Age，SibSp， Parch， Fare为连续型数值特征
文本型特征：Name， Sex， Cabin，Embarked， Ticket，其中Sex， Cabin， Embarked， Ticket为类别型文本特征。

数值型特征一般可以直接用于模型的训练，但有时候为了模型的稳定性及鲁棒性会对连续变量进行离散化。文本型特征往往需要转换成数值型特征才能用于建模分析。

#将连续变量Age平均分箱成5个年龄段，并分别用类别变量12345表示
df[‘AgeBand’] = pd.cut(df[‘Age’], 5,labels = [‘1’,‘2’,‘3’,‘4’,‘5’])
#将连续变量Age划分为[0,5) [5,15) [15,30) [30,50) [50,80)五个年龄段，并分别用类别变量12345表示
df[‘AgeBand’] = pd.cut(df[‘Age’],[0,5,15,30,50,80],labels = [‘1’,‘2’,‘3’,‘4’,‘5’])

4 查看类别文本变量名及种类
方法一
df[‘Sex’].value_counts()

方法二
df[‘Sex’].unique()
df[‘Sex’].nunique()

从纯文本Name特征里提取出Titles的特征(所谓的Titles就是Mr,Miss,Mrs等)
df[‘Title’] = df.Name.str.extract(’([A-Za-z]+).’, expand=False)