1、Pandas使用这些函数处理缺失值:
- isnull和notnull:检测是否是空值,可用于df和series
- dropna:丢弃、删除缺失值(下面为参数)
- axis : 删除行还是列,{0 or ‘index’, 1 or ‘columns’}, default 0
- how : 如果等于any则任何值为空都删除,如果等于all则所有值都为空才删除
- inplace : 如果为True则修改当前df,否则返回新的df
- fillna:填充空值(下面为参数)
- value:用于填充的值,可以是单个值,或者字典(key是列名,value是值)
- method : 等于ffill使用前一个不为空的值填充forword fill;等于bfill使用后一个不为空的值填充backword fill
- axis : 按行还是列填充,{0 or ‘index’, 1 or ‘columns’}
- inplace : 如果为True则修改当前df,否则返回新的df
2、实例:特殊Excel的读取、清洗、处理
- 1、步骤1:读取excel的时候,忽略前几个空行(skiprows=2,跳过前两行)
import pandas as pd
studf = pd.read_excel("./datas/student_excel/student_excel.xlsx", skiprows=2)
studf.isnull()
studf["分数"].isnull()
studf["分数"].notnull()
# 筛选没有空分数的所有行
studf.loc[studf["分数"].notnull(), :]
studf.dropna(axis="columns", how='all', inplace=True)
studf.dropna(axis="index", how='all', inplace=True)
studf.fillna({"分数":0})
# 等同于
studf.loc[:, '分数'] = studf['分数'].fillna(0)
- 步骤6:将姓名的缺失值填充(使用前面的有效值填充,用ffill:forward fill)
studf.loc[:, '姓名'] = studf['姓名'].fillna(method="ffill")
studf.to_excel("./datas/student_excel/student_excel_clean.xlsx", index=False)