Pandas数据结构–Series
pandas中主要有两种数据结构,分别是:Series和DataFrame。
- Series:一种类似于一维数组的对象,是由一组数据(各种NumPy数据类型)以及一组与之相关的数据标签(即索引)组成。仅由一组数据也可产生简单的Series对象。注意:Series中的索引值是可以重复的。
- DataFrame:一个表格型的数据结构,包含有一组有序的列,每列可以是不同的值类型(数值、字符串、布尔型等),DataFrame即有行索引也有列索引,可以被看做是由Series组成的字典。
本章介绍Series,主要包括以下几个方面:
列表创建
pandas有两种主要的数据结构,第一种是Series,是一种类似于一维数组的数据结构,它由一组数据以及一组与之相关的数据标签组成。我们可以直接根据list来生成一个Series。
obj = pd.Series([4,7,-5,3])
obj
#输出
0 4
1 7
2 -5
3 3
dtype: int64
可以通过index和values属性来获得obj的索引和值
obj.index
#RangeIndex(start=0, stop=4, step=1)
obj.values
#array([ 4, 7, -5, 3])
索引在默认情况下是0-n-1,不过我们可以指定索引的值
obj2 = pd.Series([4,7,-5,3],index=['d','b','a','c'])
obj2
#输出
d 4
b 7
a -5
c 3
dtype: int64
字典创建
可以直接通过字典dict来创建Series,此时字典>中的键作为索引,字典中的值作为对应的值
sdata = {'Ohio':35000,'Texas':71000,'Oregon':16000,'Utah':5000}
obj3 = pd.Series(sdata)
obj3
#输出
Ohio 35000
Oregon 16000
Texas 71000
Utah 5000
dtype: int64
如果既使用了字典,又指定了索引,那么字典中跟索引相匹配的值将会被找出来放到相应的位置上:
states = ['California','Ohio','Texas','Oregon']
obj4 = pd.Series(sdata,index = states)
obj4
#输出
California NaN
Ohio 35000.0
Texas 71000.0
Oregon 16000.0
dtype: float64
索引
可以通过相对位置的下标或者index来访问Series中的元素
obj2[2]
#-5
obj2['a']
#-5
obj2[\['a','b','d']]
#输出
a -5
b 7
d 4
dtype: int64
切片
与利用下标进行切片不同,使用标签进行切片时,末端是包含的:
obj['b':'c']
#输出
b 1.0
c 2.0
dtype: float64
重新索引
我们可以使用reindex函数对Series进行重新索引,而不是简单的改变索引的值:
obj2 = pd.Series([4,7,-5,3],index=['d','b','a','c'])
obj3 = obj2.reindex(['a','b','c','d','e'])
obj3
#输出
a -5.0
b 7.0
c 3.0
d 4.0
e NaN
dtype: float64
可以看到,使用reindex时,如果新增 的索引在原数据中没有值,其对应的值就会是NA,此时我们可以使用fill_value属性对数据进行填充:
obj4 = obj2.reindex(['a','b','c','d','e'],fill_value=0)
obj4
#输出
a -5
b 7
c 3
d 4
e 0
dtype: int64
reindex函数还有一个method属性,进行差值填充,但是索引必须是单调递增或者单调递减的,所以一般用在时间序列这样的有序数据中:
# obj5 = obj2.reindex(['a','b','c','d','e'],method='ffill') 会报错
obj3 = pd.Series(['blue','Purple','yellow'],index = [0,2,4])
obj3.reindex(range(6),method='ffill')
#输出
0 blue
1 blue
2 Purple
3 Purple
4 yellow
5 yellow
dtype: object
数据运算
可以对Series进行numpy中的一些数组运算(如根据布尔型数据进行过滤,标量乘法、应用数学函数等),这些都会保留索引和值之间的链接
np.exp(obj2)
#输出
d 54.598150
b 1096.633158
a 0.006738
c 20.085537
dtype: float64
可以把Series看成是一个定长的有序字典,因为他是索引值到数据值的一个映射,它可以用在许多原本需要字典参数的函数中
b' in obj2
#True
Series最重要的一个功能是:它在算术运算中会自动对齐不同索引的数据:
obj3 + obj4
#输出
California NaN
Ohio 70000.0
Oregon 32000.0
Texas 142000.0
Utah NaN
dtype: float64
排序和排名
sort_index按照索引进行排序,返回一个新的对象
obj = pd.Series(range(4),index=['d','a','b','c'])
obj.sort_index()
#输出:
a 1
b 2
c 3
d 0
dtype: int64
sort_values根据列值进行排序
obj.sort_values()
#输出:
d 0
a 1
b 2
c 3
dtype: int64
使用rank函数会增加一个排名值,从1开始,一直到数组中有效数据的数量,对于平级关系,rank是通过为各组分配一个平均排名的方式破坏平级关系的,如果不想使用这个平均值,可以使用method参数按照指定的方式进行rank排序,例如使用first可以按值在原始数据中出现顺序分配排名:
obj = pd.Series([7,-5,7,4,2,0,4])
obj.rank()
#输出:
0 6.5
1 1.0
2 6.5
3 4.5
4 3.0
5 2.0
6 4.5
dtype: float64
obj.rank(method='first')
#输出
0 6.0
1 1.0
2 7.0
3 4.0
4 3.0
5 2.0
6 5.0
dtype: float64
汇总和计算描述统计
Series中的实现了sum、mean、max等方法,这里就不详细介绍了,我们主要介绍求协方差和相关系数的方法:Series的corr方法用于计算两个Series中重叠的,非NA的,按索引对齐的值的相关系数,与此类似,cov用于计算协方差。
obj1 = pd.Series(np.arange(10),index = list('abcdefghij'))
obj2 = pd.Series(np.arange(12),index = list('cdefghijklmn'))
obj1.corr(obj2)
#1.0
obj1.cov(obj2)
#6.0
唯一数、值计数
unique返回没有排序的唯一值数组,value_counts()返回各数的计数
obj = pd.Series(['c','a','d','a','a','b','b','c','c'])
uniques = obj.unique()
uniques
#array(['c', 'a', 'd', 'b'], dtype=object)
#value_counts()返回各数的计数
obj.value_counts()
#输出
a 3
c 3
b 2
d 1
dtype: int64
处理缺失数据
Pandas中缺失值相关的方法主要有以下三个:
isnull方法用于判断数据是否为空数据;
fillna方法用于填补缺失数据;
dropna方法用于舍弃缺失数据。
上面两个方法返回一个新的Series或者DataFrame,对原数据没有影响,如果想在原数据上进行直接修改,使用inplace参数
data = pd.Series([1,np.nan,3.5,np.nan,7])
data.fillna(0)
#输出
0 1.0
1 0.0
2 3.5
3 0.0
4 7.0
dtype: float64