数组只能存储一种类型的数据， 同时，
数组提供了许多方便统计计算的功能
（如平均值
mean
、标准差
std
等）
pandas与numpy的区别
pandas
是基于
numpy
数组构的， 但
二者最大的不同是
pandas
是专门为处
理表格和混杂数据设计的，比较契合统
计分析中的表结构，而
numpy
更适合处
理统一的数值数组数据。
举个例子进行对比
chengji=[['', '期末', '期末'], ['张三',50, 80], ['李四', 60, 90], ['王老五', 70, 89]]
np.array(chengji)
#array([['', '期末', '期末'],
#['张三', '50', '80'],
#['李四', '60', '90'],
#['王老五', '70', '89']], dtype='<U3')上图是使用numpy得出的结果
dic={ ' 期 中 ':[50,60,70], ' 期 末':[80,90,89]}
pd.DataFrame(dic,index=['张三','李四','王老五'])
上图是使用pandas得出的结果
Pandas库简介
pandas官网
pandas扩展包的安装
- win+R打开命令行
- 输入pip install pandas
pandas扩展包的调用
import pandas as pd
pandas数据结构
pandas库的理解
| Numpy | Pandas |
|
基础数据类型
|
扩展数据类型
|
|
关注数据的结构表达
|
关注数据的应用表达
|
| 维度：数据间的关系 |
数据与索引间的关系
|
相同操作，输出形式对比：
np.arange(4)
#array([0,1,2,3])pd.Series(np.arange(4))
#0 0
#1 1
#2 2
#3 3
#dtype: int32可以看出使用pandas库可视化程度更高，能以比较清晰直观的形式展现处理后的数据
series对象类型
Series
是一种类似于一维数组的对象，它由一组数据以及一组与之相关的索引组成，仅由一组数据即可产生最简单的Series
series对象的创建
dp.Serise(obj=None, index=None, dtype=None)
对象的类型
•
标量或
Python
列表
•
Python
字典
•
Ndarray
•
其他函数
index
•
自动生成
•
人为指定
并存，但不能混用
创建时注意事项
标量值，
index
表达
Series
类型的尺寸
Python
列表，
index
与列表元素个数一致
Python
字典，键值对中的“键”是索引，
index
从字典中进行选择操作
ndarray
，索引和数据都可以通过
ndarray
类型创建
其他函数，
range()
函数等
b=pd.Series([9,8,7],['a','b','c'])
#b
#a 9
#b 8
#c 7
#dtype: int64>>> b.values
array([9, 8, 7], dtype=int64)
>>>b.index #索引
Index(['a', 'b', 'c'], dtype='object’)>>> b.index.name='索引' #定义索引的名字
>>> b.name='Series对象' #对象名
>>> b
索引
a 9
b 8
c 7
Name: Series对象, dtype: int64
Series
类型的索引操作类似
ndarray
类型：
•
索引方法相同，采用
[]
•
NumPy
中运算和操作可用于
Series
类型
•
可以通过自定义索引的列表进行切片
•
可通过自动索引进行切片，如果存在自定义索引，则一同被切片
>>> b=pd.Series([9,8,7],['a','b','c'])
>>> b
a 9
b 8
c 7
dtype: int64
>>> b[b>=b.median()]
a 9
b 8
dtype: int64
>>> np.exp(b)
a 8103.083928
b 2980.957987
c 1096.633158
d 403.428793
dtype: float64
Series
类型的操作类似
Python
字典类型：
•
通过自定义索引访问
•
保留字
in
操作：判定给定的索引值是否在索引序列中
•
使用
.get()
方法：类似于字典中的
get
方法
>>> b=pd.Series([9,8,7],['a','b','c'])
>>> b
a 9
b 8
c 7
dtype: int64
>>> b['a']
9
>>> 'c' in b
True
>>> b.get('a')
9series常用函数
DataFrame对象类型
- DataFrame类型由共用相同索引的一组列组成。
- DataFrame是一个表格型的数据类型，每列值类型可以不同
- DataFrame既有行索引(index)、也有列索引(columns)
- DataFrame常用于表达二维数据，但可以表达多维数据。
DataFrame创建
pd.DataFrame(data=None, index=None, columns=None, dtype=None)
主要待创建
obj
类型：
•
二维
ndarray
对象
•
由一维
ndarray
、列表、字典、元组或
Series
构成的字典
•
Series
类型
•
其他的
DataFrame
类型
columns，index
分别为指定行和列的索引值，列表类型。
df=pd.DataFrame(np.random.randint(60,100,size=(2,3)),index=['期中','期末'],columns=['张三','李四','王老五'])
>>> df.values
array([[70, 92, 72],
[60, 60, 88]])
>>> df.shape
(2,3)
>>> df.index
Index(['期中', '期末'], dtype='object')
>>> df.columns
Index(['张三', '李四', '王老五'], dtype='object')
>>> df.describe()
张三 李四 王老五
count 2.000000 2.000000 2.000000
mean 65.000000 76.000000 80.000000
std 7.071068 22.627417 11.313708
min 60.000000 60.000000 72.000000
25% 62.500000 68.000000 76.000000
50% 65.000000 76.000000 80.000000
75% 67.500000 84.000000 84.000000
max 70.000000 92.000000 88.000000
根据行列参数索引。
>>> df.['x']
a 0
b 3
c 6
Name: x, dtype: int32根据整数位置参数索引
>>> df.iloc[1,:]
x 3
y 4
z 5
Name:b, dtype: int32某个轴上拥有多个索引级别
>>> df.['x','z']
a 0 2
b 3 5
c 6 8列索引
通过类似字典的方式：
某一列
: obj[
列索引值
]
>>> df['qizhong']
张三 50
李四 60
王老五 70
Name: qizhong, dtype: int64
多列
: obj[
列索引值列表
]
>>> df[['qizhong', 'qimo']]
qizhong qimo
张三 50 80
李四 60 90
王老五 70 89行索引
使用
.loc[]
加
index
来进行行索引
某一行
: obj.loc[
行索引值
]
>>> df.loc['张三']
qizhong 50
qimo 80
Name: 张三, dtype: int64
多行
: obj[
行索引值列表
]
>>> df.loc[['李四', '张三']]
qizhong qimo
李四 60 90
张三 50 80效果图
位置索引
iloc
函数索引的数据是
int
整型，
Python
默认的前闭后开。索引方式与数组类似
连续索引与不连续索引
df=pd.DataFrame(np.arange(16).reshape((4,4)),index=["a","b","c","d"],columns=["w","x","y","z"])
连续索引：索引值为切片
>>> df.loc['a':'c']
>>> df.iloc[:3, :]
w x y z
a 0 1 2 3
b 4 5 6 7
c 8 9 10 11
不连续索引：索引值为列表
>>> df[['w', 'y']]
>>> df.iloc[:, [0,2]]
w y
a 0 2
b 4 6
c 8 10
d 12 14重新索引
.reindex()
能够改变或重排
Series
和
DataFrame
索引
实例
删除指定索引
.drop()
能够删除
Series
和
DataFrame
指定行或列索引
pd.drop(labels, axis=0)>>> d
城市 环比 同比 定基
0 北京 101.5 120.7 121.4
1 上海 101.2 127.3 127.8
2 广州 101.3 119.4 120.0
3 深圳 102.0 145.5 125.3
4 沈阳 101.1 101.4 101.6>>> d.drop(3)
城市 环比 同比 定基
0 北京 101.5 120.7 121.4
1 上海 101.2 127.3 127.8
2 广州 101.3 119.4 120.0
4 沈阳 101.1 101.4 101.6
>>> d.drop('同比', axis =1)
城市 环比 定基
0 北京 101.5 121.4
1 上海 101.2 127.8
2 广州 101.3 120.0
4 沈阳 101.1 101.6Pandas库常用操作
算数运算法则
•
算术运算根据行列索引，补齐后运算，运算默认产生浮点数；
•
补齐时缺项填充
NaN (
空值
)
；
•
采用
+
‐
* /
符号进行的二元运算产生新的对象；
•
二维和一维、一维和零维间为广播运算；
实例
a=pd.DataFrame(np.arange(12).reshape((3,4)))
b=pd.DataFrame(np.arange(20).reshape((4,5)))
运算结果为浮点型；
hape大小不一致，缺失部分元素以NaN补全
>>> a
0 1 2 3
0 0 1 2 3
1 4 5 6 7
2 8 9 10 11
>>> b
0 1 2 3 4
0 0 1 2 3 4
1 5 6 7 8 9
2 10 11 12 13 14
3 15 16 17 18 19
方法形式的运算
实例
>>> a
0 1 2 3
0 0 1 2 3
1 4 5 6 7
2 8 9 10 11
>>> b
0 1 2 3 4
0 0 1 2 3 4
1 5 6 7 8 9
2 10 11 12 13 14
3 15 16 17 18 19
#加法
>>> b.add(a, fill_value=100)
0 1 2 3 4
0 0.0 2.0 4.0 6.0 104.0
1 9.0 11.0 13.0 15.0 109.0
2 18.0 20.0 22.0 24.0 114.0
3 115.0 116.0 117.0 118.0 119.0
#乘法
>>> b.mul(b, fill_value=0)
0 1 2 3 4
0 0.0 1.0 4.0 9.0 0.0
1 20.0 30.0 42.0 56.0 0.0
2 80.0 99.0 120.0 143.0 0.0
3 0.0 0.0 0.0 0.0 0.0Series与Dataframe之间的计算
使用
Python
操作符：
•
以行为单位操作（参数必须是行），对所有行都有效。（类似于
numpy
中二维 数组与一维数
组的运算，但可能出现
NaN
）
使用
pandas
操作函数：
•
axis=0
：以列为单位操作（参数必须是列），对所有列都有效。
•
axis=1
：以行为单位操作（参数必须是行），对所有行都有效。
传播运算（标量运算）
不同维度数据类型之间的运算。
标量与
Seriers
或
DataFrame
之间的运算（各元素均与标量运算）
>>> c=pd.Series(np.arange(3))
0 0
1 1
2 2
dtype: int32
>>> c+1
0 1
1 2
2 3
dtype: int32
>>> a=pd.DataFrame(np.arange(12).reshape((3,4)))
0 1 2 3
0 0 1 2 3
1 4 5 6 7
2 8 9 10 11
>>> a+1
0 1 2 3
0 1 2 3 4
1 5 6 7 8
2 9 10 11 12
使用
Python
操作符：
•
以行为单位操作（参数必须是行），对所有行都有效。（类似于
numpy
中二维数组与一维数
组的运算，但可能出现
NaN
）
使用
pandas
操作函数：
•
axis=0
：以列为单位操作（参数必须是列），对所有列都有效。
•
axis=1
：以行为单位操作（参数必须是行），对所有行都有效。
传播运算（标量运算）
不同维度数据类型之间的运算。
标量与
Seriers
或
DataFrame
之间的运算（各元素均与标量运算）
>>> c=pd.Series(np.arange(3))
0 0
1 1
2 2
dtype: int32
>>> c+1
0 1
1 2
2 3
dtype: int32
>>> a=pd.DataFrame(np.arange(12).reshape((3,4)))
0 1 2 3
0 0 1 2 3
1 4 5 6 7
2 8 9 10 11
>>> a+1
0 1 2 3
0 1 2 3 4
1 5 6 7 8
2 9 10 11 12算数运算（传播机制）
默认
Seriers
参与
DataFrame
的行运算
将
Series
的索引匹配到
DataFrame的行，然后行一直向下传播。缺失元素
Nan
补全。
>>> c=pd.Series(np.arange(4))
>>> a=pd.DataFrame(np.arange(12).reshape((3,4)))
比较运算规则
二维和一维、一维和零维间为广播运算
采用
> < >= <= == !=
等符号进行的二元运算产生布尔对象
不同维度，广播运算，默认在
1
轴
(
行
)
>>> c=pd.Series(np.arange(4))
>>> a=pd.DataFrame(np.arange(12).reshape((3,4))) 
索引的排序
•
.sort_index()
方法在指定轴上根据索引进行排序，默认在
0
轴升序。
.sort_index(axis=0, ascending=True)
>>> b
0 1 2 3 4
c 0 1 2 3 4
a 5 6 7 8 9
d 10 11 12 13 14
b 15 16 17 18 19
>>> c=b.sort_index()
0 1 2 3 4
a 5 6 7 8 9
b 15 16 17 18 19
c 0 1 2 3 4
d 10 11 12 13 14
>>> c.sort_index(axis=1,ascending=False)
4 3 2 1 0
a 9 8 7 6 5
b 19 18 17 16 15
c 4 3 2 1 0
d 14 13 12 11 10
.sort_values()
方法在指定轴上根据数值进行排序，默认升序
DataFrame.sort_values(by=‘##’,axis=0,ascending=True, inplace=False)
a = [[9,3,1],[1,2,8],[1,0,5]]
data = pd.DataFrame(a, index=["0", "2", "1"], columns=["c", "a", "b"])
idx = pd.MultiIndex.from_tuples([('a', 1), ('a', 2), ('a', 2), ('b', 2), ('b', 1), ('b', 1)])
idx.names = ['first', 'second']
df_multi = pd.DataFrame({'A': np.arange(6, 0, -1)}, index=idx) 
汇总和计算描述统计
汇总和计算描述统计：累计统计分析函数
适用于
Series
和
DataFrame
类型，滚动计算（窗口计算）
obj = pd.Series(['c','a','d','a','a','b','b','c','c'])serieris.unique()：是以数组形式返回列的所有唯一值（特征的所有唯一值）
>>> uniques = obj.unique()
array(['c', 'a', 'd', 'b'], dtype=object)
Series.nunique():
返回的是唯一值的个数
>>> uniques = obj.nunique()
4
serieris.value_counts()
：按
value
的出现次数多少
降序排序
>>> obj.value_counts()
a 3
c 3
b 2
d 1
dtype: int64
pd.isin(values)
：来查看参数
values
是否在
Series/Data Frame
内，有返回按
DataFrame
分布布尔值
True
，否则
False
。
values
：
iterable, Series, DataFrame or dictt
函数映射
map
函数
•
作用在
Series
的每个元素
applymap
函数
•
作用
DataFrame
所有元素
apply
函数
•
作用在
DataFrame
行或列
df['col2'] = df['col1'].map(lambda x: x**2)
对行列用函数处理
apply
函数是
pandas
里面所有函数中自由度最高的函数
DataFrame.apply(func, axis=0, broadcast=False, raw=False, reduce=None, args=(), **kwds
•
func
： 函数，应用于每个列或行的函数；
•
axis
：
=0
或
1
将函数应用于每一列或行；
•
raw
：默认将每个行或列作为系列传递给函数
,
否则传递的函数将改为接收
ndarray
对象；
•
result_type
：
{‘expand’
，‘
reduce’
，‘
broadcast’
，
None}
，默认为
None
。仅在
axis=1
情况下起作用，‘
expand’
：类似列表的结果将变成列，
'reduce'
：如果可 能，
返回一个
Series
。
' broadcast '
：结果将广播到
DataFrame
的原始形状
>>> name=["张三","李四 ","王五"]
>>> idx=["指标1","指标2","指标3","指标4"]
>>>df=pd.DataFrame(np.random.randint(67,80,12).reshape((3,4)),index=name,colum
ns=idx)
>>> df.apply(lambda x:((x-min(x))/(max(x)-min(x)),axis=1)指标1 指标2 指标3 指标4
张三 70 70 72 77
李四 79 67 73 74
王五 67 74 69 724
|
V
指标1 指标2 指标3 指标4
张三 0.0 0.0 0.285714 1.000000
李四 1.0 0.0 0.500000 0.583333
王五 0.0 1.0 0.285714 0.714286apply函数(对行列用函数处理)
411
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
