每次爬虫获取的数据都是需要处理下的。
所以这一次简单讲一下Pandas的用法,以便以后能更好的使用。
数据整合是对数据进行行列选择、创建、删除等操作。
数据清洗则是将整合好的数据去除其中的错误和异常。
本期利用之前获取的网易云音乐用户数据,来操作一番。
/ 01 / 数据整合
首先读取数据。
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
# 设置列名与数据对齐
pd.set_option('display.unicode.ambiguous_as_wide', True)
pd.set_option('display.unicode.east_asian_width', True)
# 显示所有列
pd.set_option('display.max_columns', None)
# 显示10行
pd.set_option('display.max_rows', 10)
# 设置显示宽度为1000,这样就不会在IDE的输出框中换行了
pd.set_option('display.width', 1000)
# 读取数据
df = pd.read_excel('data.xlsx', header=None, names=['name', 'user_id', 'age', 'gender', 'city', 'praise', 'date'], encoding='utf-8-sig', skipinitialspace=True)
print(df
私信小编001 获取神秘pandas大礼包!
这里以上期的网易云音乐用户数据为例。
01 行列操作
选择单列。可以直接用列名选择,也可以通过ix、iloc、loc方法进行选择行、列。
ix方法可以使用数值或者字符作为索引来选择行、列。
iloc则只能使用数值作为索引来选择行、列。
loc方法在选择列时只能使用字符索引。
# 返回pandas序列结构的类
print(df['age'])
print(df.age)
print(df.ix[:, 'age'])
print(df.loc[:, 'age'])
# 返回pandas数据框类
print(df[['age']])
print(df.iloc[:, 2:3])
输出结果。
选择多列。ix、iloc、loc方法都可使用。
只不过ix和loc方法,行索引是前后都包括的,而列索引则是前包后不包(与列表索引一致)。
iloc方法则和列表索引一致,前包后不包。
# 列索引前包后包
print(df.ix[0:5, 0:5])
print(df.loc[0:5, ('name', 'user_id', 'age', 'gender', 'city')])
# 列索引前包后不包
print(df.iloc[0:5, 0:5])
输出结果。
创建列。可以直接通过赋值完成,也可通过数据框的assign来完成赋值,不过后一种方法需要赋值给新表才能生效。
# 直接列赋值
df['adult'] = df['age'] // 18
print(df)
# 使用assign赋值
df = df.assign(adult=df['age'] // 18)
print(df)
两个方法的输出结果都一样。