Pandas进行异常值分析—describe()查看数据基本情况、箱线图查看异常值分布

1.使用describe()函数查看数据基本情况

        

import pandas as pd

catering_sale = 'catering_sale.xls'                      #餐饮数据
data = pd.read_excel(catering_sale, index_col = u'日期') #读取数据，指定“日期”列为索引列
print(data.describe())                                   #打印数据描述
print(len(data))                                         #得到数据记录条数，可知道是否缺失记录

  输入结果为：

                销量
count   200.000000
mean   2755.214700
std     751.029772
min      22.000000
25%    2451.975000
50%    2655.850000
75%    3026.125000
max    9106.440000
201

可知，describe()函数提供了平均值mean,标准差std,最小值min,最大值max以及1/4,1/2,3/4分位数

2.绘制箱线图

import matplotlib.pyplot as plt              #导入图像库
plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False   #用来正常显示负号

plt.figure() 
p = data.boxplot(return_type='dict')         #画箱线图，直接使用DataFrame的方法
x = p['fliers'][0].get_xdata()               # 'flies'即为异常值的标签
y = p['fliers'][0].get_ydata()
y.sort()                                     #从小到大排序，该方法直接改变原对象

#用annotate添加注释
#其中有些相近的点，注解会出现重叠，难以看清，需要一些技巧来控制。
#以下参数都是经过调试的，需要具体问题具体调试。
for i in range(len(x)): 
  if i>0:
    plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.05 -0.8/(y[i]-y[i-1]),y[i]))
  else:
    plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.08,y[i]))

plt.show()                                   #展示箱线图

结果如下：

由图可知，有7个数值超过了箱线图的上下界，可对其进一步分析处理。