复习:在前面我们已经学习了Pandas基础,第二章我们开始进入数据分析的业务部分,在第二章第一节的内容中,我们学习了数据的清洗,这一部分十分重要,只有数据变得相对干净,我们之后对数据的分析才可以更有力。而这一节,我们要做的是数据重构,数据重构依旧属于数据理解(准备)的范围。
开始之前,导入numpy、pandas包和数据:
import pandas as pd
import numpy as np
train_left_up = pd.read_csv('./data/train-left-up.csv')
train_left_up.head()
输出:
目录
2.4.1 任务一:将data文件夹里面的所有数据都载入,观察数据的之间的关系
2.4.2:任务二:使用concat方法:将数据train-left-up.csv和train-right-up.csv横向合并为一张表,并保存这张表为result_up
2.4.4 任务四:使用DataFrame自带的方法join方法和append:完成任务二和任务三的任务
2.4.5 任务五:使用Panads的merge方法和DataFrame的append方法:完成任务二和任务三的任务
2.6.1 任务一:通过教材《Python for Data Analysis》P303、Google or anything来学习了解GroupBy机制
2.6.5:任务五:统计在不同等级的票中的不同年龄的船票花费的平均值
2.6.6:任务六:将任务二和任务三的数据合并,并保存到sex_fare_survived.csv
2.6.7:任务七:得出不同年龄的总的存活人数,然后找出存活人数最多的年龄段,最后计算存活人数最高的存活率(存活人数/总人数)
2 第二章:数据重构
2.4 数据的合并
2.4.1 任务一:将data文件夹里面的所有数据都载入,观察数据的之间的关系
train_left_down = pd.read_csv('./data/train-left-down.csv')
train_right_up = pd.read_csv('./data/train-right-up.csv')
train_right_down = pd.read_csv('./data/train-right-down.csv')
train_left_down.head()
train_right_up.head()
train_right_down.head()
输出:train_left_down
train_right_up
train_right_down
【提示】结合之前我们加载的train.csv数据,大致预测一下上面的数据是什么
- _up与_down:按照'PassengerId'以439为分割,分成上下两个DataFrame;
- train_right与train_left:将原本train中的数据列分割成左右两个DataFrame;
- 总的来说是将train先行分割后列分割分成4个DataFrame。
2.4.2:任务二:使用concat方法:将数据train-left-up.csv和train-right-up.csv横向合并为一张表,并保存这张表为result_up
result_up = pd.concat([train_left_up,train_right_up],axis=1)
result_up.head()
可以看出横向合并成功:
2.4.3 任务三:使用concat方法:将train-left-down和train-right-down横向合并为一张表,并保存这张表为result_down。然后将上边的result_up和result_down纵向合并为result。
result_down = pd.concat([train_left_down,train_right_down],axis=1)
result = pd.concat([result_up,result_down])
result.info()
可以看出纵向与横向都合并成功:
2.4.4 任务四:使用DataFrame自带的方法join方法和append:完成任务二和任务三的任务
result_up = train_left_up.join(train_right_up,how='outer')
result_down = train_left_down.join(train_right_down,how='outer')
result = result_up.append(result_down,ignore_index=True)
result.info()
result.tail()
可以看出纵向与横向都合并成功:
2.4.5 任务五:使用Panads的merge方法和DataFrame的append方法:完成任务二和任务三的任务
result_up = pd.merge(train_left_up,train_right_up,left_index=True,right_index=True,how='outer')
result_down = pd.merge(train_left_down,train_right_down,left_index=True,right_index=True,how='outer')
result = result_up.append(result_down,ignore_index=True)
result.info()
result.iloc[438:].head()
可以看出纵向与横向都合并成功:
【思考】对比merge、join以及concat的方法的不同以及相同。思考一下在任务四和任务五的情况下,为什么都要求使用DataFrame的append方法,如何只要求使用merge或者join可不可以完成任务四和任务五呢?
方法:仅用pd.merge()完成纵向与横向合并:
#仅用pd.merge()
result_up_m = pd.merge(train_left_up,train_right_up,left_index=True,right_index=True,how='