Pandas 数据分析 实用小技巧(二)
小技巧6:如何快速找出 DataFrame 所有列 null 值个数?
实际使用的数据,null 值在所难免。如何快速找出 DataFrame 所有列的 null 值个数?
使用 Pandas 能非常方便实现,只需下面一行代码:
data.isnull().sum()
data.isnull(): 逐行逐元素查找元素值是否为 null.
.sum(): 默认在 axis 为 0 上完成一次 reduce 求和。
读取泰坦尼克预测生死的数据集
data = pd.read_csv('titanicdataset-traincsv/train.csv')
结果:以列为约束,获得每列的空值总数
PassengerId 0
Survived 0
Pclass 17
小技巧7:如何用 Pandas 快速生成时间序列数据?
与时间序列相关的问题,平时还是挺常见的。
介绍一个小技巧,使用 pd.util.testing.makeTimeDataFrame
只需要一行代码,便能生成一个 index 为时间序列的 DataFrame:
import pandas as pd
pd.util.testing.makeTimeDataFrame(10)
时间序列的间隔还能配置,默认的 A B C D 四列也支持配置。
import numpy as np
df = pd.DataFrame(np.random.randint(1,1000,size=(10,3)),
columns = ['商品编码','商品销量','商品库存'])
df.index = pd.util.testing.makeDateIndex(10,freq='H')
小技巧8:如何重新排序 DataFrame 的列?
某些场景需要重新排序 DataFrame 的列,如下 DataFrame:
如何将列快速变为:
方法1,直接了当:
df2 = df[["A", "C", "D", "F", "E", "G", "B"]]
df2
方法2,也了解下:
cols = df.columns[[0, 2 , 3, 5, 4, 6, 1]]
df3 = df[cols]
df3
小技巧9:如何完成数据下采样,调整步长由小时为天?
步长为小时的时间序列数据,有没有小技巧,快速完成下采样,采集成按天的数据呢?
先生成测试数据:
import pandas as pd
import numpy as np
df = pd.DataFrame(np.random.randint(1,10,size=(240,3)), \
columns = ['商品编码','商品销量','商品库存'])
df.index = pd.util.testing.makeDateIndex(240,freq='H')
df
生成 240 行步长为小时间隔的数据:
小技巧,使用 resample
方法,合并为天(D)
day_df = df.resample("D")["商品销量"].sum().to_frame()
day_df
结果如下,10行,240小时,正好为 10 days: