原文为Pandas官网教程:10 Minutes to pandas
首先导入几个必备扩展库:
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
创建对象
创建一个Series
对象:传递一个数值列表作为参数,令Pandas使用默认索引。
s = pd.Series([1,3,5,np.nan,6,8])
print(s)
创建一个DataFrame
对象:传递待datetime索引和列标签的Numpy数组作为参数。
# 首先创建一个时间序列
dates = pd.date_range('20130101', periods=6)
print(dates)
# 创建DataFrame对象,指定index和columns标签
df = pd.DataFrame(np.random.randn(6,4), index=dates, columns=list('ABCD'))
print(df)
也可以传递词典来构建DataFrame
,该词典的元素是形如Series
的对象。
df2 = pd.DataFrame({ 'A' : 1., 'B' : pd.Timestamp('20130102'), 'C' : pd.Series(1,index=list(range(4)),dtype='float32'), 'D' : np.array([3] * 4,dtype='int32'), 'E' : pd.Categorical(["test","train","test","train"]), 'F' : 'foo' })
print(df2)
# 查看df2对象各列的数据类型
print(df2.dtypes)
观察数据
查看一个DataFrame
对象的前几行和最后几行。
print(df.head())
print(df.tail(3))
# 默认情况下,.head()和.tail()输出首尾的前5行,也可以手动指定输出行数。
查看索引(index),列标签(columns)和Numpy数组形式的内容。
.describe()
返回简约的统计信息,在工程中非常实用。
# 索引
print(df.index)
# 列标签
print(df.columns)
# 数值
print(df.values)
# 统计
print(df.describe())
灵活调教你的DataFrame
# 转置
print(df.T)
# 按轴排序,逐列递减
print(df.sort_index(axis=1, ascending=False))
# 按值排序,'B'列逐行递增
print(df.sort_values(by='B'))
选中
尽管标准Python/Numpy的选中表达式很直观也很适合互动,但在生产代码中还是推荐使用Pandas里的方法如.at
,.iat
,.loc
,.iloc
,.ix
等。
获取
DataFrame
里选中的一列与Series
等效。
print(df["A"]) # 与df.A相同
# 用[]分割DataFrame
print(df[0:3])
print(df['20130102':'20130104'])
按标签选择
# 选中一整行
print(df.loc[dates[0]])
# 按标签选中复数列(所有行,输出只显示前5行)
print(df.loc[:,['A','B']])
# 行/列同时划分(包括起止点)
print(df.loc['20130102':'20130104',['A','B']])
# 返回一个元素(两个方法等效)
print(df.loc[dates[0],'A'])
print(df.at[dates[0],'A'])
按位置选择
# 位置索引为3的行(从0开始,所以其实是第4行)
print(df.iloc[3])
# 按位置索引分割DataFrame
print(df.iloc[3:5,0:2])
print(df.iloc[[1,2,4],[0,2]])
# 直接定位一个特定元素
df.iloc[1,1]
df.iat[1,1]
布尔值索引
# 用一列的值来选择数据
print(df.A > 0)
# 使用.isin()函数过滤数据
df2 = df.copy()
df2['E'] = ['one', 'one','two','three','four','three']
# 提取df2中'E'值属于['two', 'four']的行
print(df2[df2['E'].isin(['two','four'])])
设置
# 为DataFrame创建一个新的列,其值为时间顺序(与df相同)的索引值
s1 = pd.Series([1,2,3,4,5,6], index=pd.date_range('20130102', periods=6))
print(s1)
df['F'] = s1
# 按标签赋值
df.at[dates[0],'A'] = 0
# 按索引赋值
df.iat[0,1] = 0
# 用Numpy数组赋值
df.loc[:,'D'] = np.array([5] * len(df))
# 最终结果
print(df)
缺失数据
Pandas默认使用np.nan
来代表缺失数据。Reindexing
允许用户对某一轴上的索引改/增/删,并返回数据的副本。
# 创建DataFrame对象df1,以dates[0:4]为索引,在df的基础上再加一个新的列'E'(初始均为NaN)
df1 = df.reindex(index=dates[0:4], columns=list(df.columns) + ['E'])
# 将'E'列的前两个行设为1
df1.loc[dates[0]:dates[1],'E'] = 1
print(df1)
处理缺失数据
# 剔除df1中含NaN的行(只要任一一列为NaN就算)
df1.dropna(how='any')
# 用5填充df1里的缺失值
df1.fillna(value=5)
# 判断df1中的值是否为缺失数据,返回True/False
pd.isnull(df1)