本篇文章的目的:以美国人的生日统计分析为例,熟练统计分组的操作,基本的数据可视化图形绘制;涉及到Python 中的numpy、pandas和matplotlib库,包括:df.pivot_table()、plt.ylabel()、np.percentile()、df.query()等函数。本篇也涉及到用Sigma -clippin去除异常值,时间格式的转换等。
数据来源:https://github.com/jakevdp/data-CDCbirths/
数据说明:读入births.csv文件,共14610条记录;5个字段,分别是:年代,月份,性别和出生人数
1.读入数据,显示基本数据情况
导入需要的Python库,读入数据,显示数据情况
%matplotlib inline
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import matplotlib as mpl
birth = pd.read_csv(r'data-CDCbirths-master/births.csv')
birth.head() #显示前5行数据,tail()表示显示后5行数据
len(birth) #显示数据总行数
显示结果如下:
2.统计年代情况,观察每年美国人男女总人数的增长情况
步骤:计算年代(原始数据中没有)并形成新的字段—》统计各年代的男女比例—》按性别分组,统计每一年的男女出生总人数—》绘制统计图
使用函数:df.pivot_table(values=None, index=None, columns=None, aggfunc='mean', fill_value=None, margins=False, dropna=True, margins_name='All')
部分参数说明:values:数值,用于分组计算的数值;index:索引,结果显示索引,按索引分组;
columns:分组的列,分组结果会单独显示列; aggfunc:计算函数,函数使用会加引号。
(一)计算年代和统计各年代的男女比例。使用到numpy的通用函数;数据框求和函数:df.sum(axis=0/1),默认为0,0表示按列求和,1表示按行求和,等同于np.sum(df, axis=0/1)
代码如下:
birth['decade'] = 10 * (birth['year'] // 10) #计算年代,其中10年为一个年代
#按年代和性别进行分组,对出生人数进行求和;索引为年代,列为性别。
sta = birth.pivot_table('births', index='decade', column