功能强大的python包（二）：Pandas

功能强大的python包（二）：Pandas

1. Pandas简介

Pandas是一个强大的分析结构化数据的工具集；它的使用基础是Numpy（提供高性能的矩阵运算）。

Pandas是一种结构化数据工具集，可以用于数据挖掘、数据分析、数据清洗、数据可视化等。

2. 数据类型

Pandas库最重要的两种数据结构是Series、DataFrame。

Series：一种类似于一维数组的对象， 是由一组Numpy数据及该数据对应的数字序列构成；可以通过该数字序列访问Numpy数据。

DadaFrame：一种表格型的数据结构，是由一组有序的列构成，每一列可以是不同的数据类型，相当于Series数据结构集合；与表格数据类似，DadaFrame数据有行索引和列索引；结合行、列索引可以访问其中单个数据元素。

数据结构	定义
Series	带标签的一维同构数组
DataFrame	带标签、大小可变的二维异构表格

3. Pandas总览

• 对象生成
  生成Series对象和DataFrame对象

函数	实例
pd.Series	pd.Series([1,2,3,4],index=['一'，'二'，'三'，'四']
pd.DataFrame	pd.DataFrame([[1,2,3],[1,2,3]])

import pandas as pd

pd.Series([1,2,3,4],index=['一'，'二'，'三'，'四']
pd.DataFrame([[1,2,3],[1,2,3]])

• 数据访问
  访问Series对象和DataFrame对象中的数据元素

函数	作用
df.head( )	访问对象头部数据
df.tail( )	访问对象尾部数据
df.describe( )	访问对象的多个统计数据
df.index	访问对象的行索引
df.columns	访问对象的列索引
df.values	访问对象的数据元素
df.loc[ ]	按索引访问对象的数据
df.iloc[ ]	按位置访问对象的数据
df[条件]	通过条件筛选数据
df.isin([ ])	通过条件筛选数据

import pandas as pd

import pandas as pd

df = pd.DataFrame({'公号名':['人类之奴','十点美剧','韩剧剧场','果壳网','十点读书','胖胖啊'],'领域':['科技','影视','影视','科普','阅读','情感'],'粉丝数':[100000,964,1232,543,9990,200],'更新':['日更','周更','日更','月更','周更','日更']})
df.head()
df.tail(1)
df['粉丝数'].describe()
df.index
df.columns
df.values

df.loc[0]
df.loc[:]['公号名']

df.iloc[1:3]
df.iloc[1:4,0:2]

df[df['粉丝数']>9000]
df[df['领域'].isin(['科技'])]

• 文件读写
  Pandas可以读写.csv、.xlsx等常用文件；读取的同时将数据转换成DataFrame数据结构，用于后续处理。

函数	作用
pd.read_csv( )	读取.csv文将
pd.to_csv( )	将数据保存为.csv文件
pd.read_excel( )	读取.xlsx文件
pd.to_excel( )	将数据保存为.xlsx文件
pd.read_hdf( )	读取.h5文件
pd.to_hdf( )	将数据保存为.h5文件

import pandas as pd

path = 'D:\\桌面\\pd0.csv'

#GB18030可以解码包含中文的文件
df_csv = pd.read_csv(path,encoding='GB18030')
df_csv.to_csv('人类之奴.csv')

df_xlsx = pd.read_excel('D:\\桌面\\python包.xlsx',sheet_name=0)
df_xlsx.to_excel('人类之奴.xlsx')

df_hdf = pd.read_hdf('人类之奴.h5')
df_csv.to_hdf('人类之奴.h5','a')

• 数据清洗
  对对象中缺失的、有问题的数据进行处理（删除、填充、替换）。

函数	作用
df.dropna( )	删除有缺失值的数据项
df.fillna( )	填充缺失值

import pandas as pd

df = pd.DataFrame({'公号名':['人类之奴','十点美剧','韩剧剧场','果壳网','十点读书','胖胖啊'],'领域':['科技',None,'影视','科普',None,'情感'],'粉丝数':[100000,964,None,543,9990,200],'更新':['日更','周更','日更','月更','周更','日更']})
df.head()
df.dropna()
df.fillna('科技')

• 数据处理
  数据处理包括数据拼接、数据重排、数据分析等。

函数	作用
pd.concat([ ])	拼接Series/DataFrame对象
pd.merge( )	合并Series/DataFrame对象
pd.join( )	合并Series/DataFrame对象
df.sort_index( )	按索引重排数据
df.sort_values( )	按值重排数据
Numpy方法	Series/DataFrame对象可以调用Numpy方法
df.groupby([ ]).function( )	分组进行function处理
df.apply(function)	对对象整体调用function处理

import pandas as pd
import numpy as np

df1 = pd.DataFrame({'名称':['甲','乙','丙','丁'],'语文':[56,34,67,89]})
df2 = pd.DataFrame({'名称':['甲','乙','丙','丁'],'数学':[98,97,89,35]})

pd.concat([df1,df2],axis=1)
pd.merge(df1,df2)

df = pd.merge(df1,df2)

df.sort_index(1,ascending=False)
df.sort_values(by='数学')

df.groupby(['数学']).mean()
df['数学'].apply(np.median)

• 数据可视化
  对Series/DataFrame对象进行可视化。

函数	作用
pd.plot( )	绘制折线图
pd.plot.hist( )	绘制直方图
pd.plot.scatter( )	绘制散点图

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt

df1 = pd.DataFrame({'语文':[56,34,67,89]})
df2 = pd.DataFrame({'数学':[98,97,89,35]})

pd.concat([df1,df2],axis=1)
pd.merge(df1,df2)

df.plot()
df.plot.hist()
df.plot.scatter()
#运行出错，没有解决这个问题，希望懂得朋友评论区帮忙解决一下

---

写在最后

链接：Pandas官方文档