Python是一门拥有众多库的语言,用于数据分析十分方便。
一.数据质量分析
1.1异常值分析
使用箱型图进行分析。箱型图提供了识别一场值的标准,具体如下图所示。
在Python中可以使用pandas进行数据的查看(需要读入数据,然后使用describe()函数就可以查看数据的基本情况)
#coding:utf-8
import pandas as pd
catering_sale = '/home/xiao/Desktop/analysis/3/catering_sale.xls'
data = pd.read_excel(catering_sale, index_col = u'日期')
data.describe()
使用箱型图对数据进行分析:
#-*- coding: utf-8 -*-
import pandas as pd
catering_sale = '/home/xiao/Desktop/analysis/3/catering_sale.xls' #餐饮数据
data = pd.read_excel(catering_sale, index_col = u'日期') #读取数据,指定“日期”列为索引列
import matplotlib.pyplot as plt #导入图像库
plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False #用来正常显示负号
plt.figure() #建立图像
p = data.boxplot(return_type='dict') #画箱线图,直接使用DataFrame的方法
x = p['fliers'][0].get_xdata() # 'flies'即为异常值的标签
y = p['fliers'][0].get_ydata()
y.sort() #从小到大排序,该方法直接改变原对象
#用annotate添加注释
#其中有些相近的点,注解会出现重叠,难以看清,需要一些技巧来控制。
#以下参数都是经过调试的,需要具体问题具体调试。
for i in range(len(x)):
if i>0:
plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.05 -0.8/(y[i]-y[i-1]),y[i]))
else:
plt.annotate(y[i], xy = (x[i],y[i]), xytext=(x[i]+0.08,y[i]))
plt.show() #展示箱线图
1.2数据特征分析
分析指标:极差/标准差/变异系数/四分位数间距。
#-*- coding: utf-8 -*-
#餐饮销量数据统计量分析
from __future__ import print_function
import pandas as pd
catering_sale = '/home/xiao/Desktop/analysis/3/catering_sale.xls' #餐饮数据
data = pd.read_excel(catering_sale, index_col = u'日期') #读取数据,指定“日期”列为索引列
data = data[(data[u'销量'] > 400)&(data[u'销量'] < 5000)] #过滤异常数据
statistics = data.describe() #保存基本统计量
statistics.loc['range'] = statistics.loc['max']-statistics.loc['min'] #极差
statistics.loc['var'] = statistics.loc['std']/statistics.loc['mean'] #变异系数
statistics.loc['dis'] = statistics.loc['75%']-statistics.loc['25%'] #四分位数间距
print(statistics)
结果如下:
1.3贡献度分析
贡献度又称为帕累托分析,原理是帕累托法则,又称为20/80定律。
#coding:utf-8
from __future__ import print_function
import pandas as pd
dish_profit = '/home/xiao/Desktop/analysis/3/catering_dish_profit.xls'
data = pd.read_excel(dish_profit, index_col = u'菜品名')
data = data[u'盈利'].copy()
#data = data.sort_index(ascending = False)
import matplotlib.pyplot as plt
plt.rcParams['font.sans-serif'] = ['SimHei'] #用来正常显示中文标签plt.rcParams['axes.unicode_minus'] = False
#
plt.figure()
data.plot(kind = 'bar')
plt.ylabel(u'profit(yuan)')
p = 1.0*data.cumsum()/data.sum()###用于累加,cumprod用于累乘
p.plot(color = 'r', secondary_y = True, style = '-o', linewidth = 2)
plt.annotate(format(p[6], '.4%'), xy = (6, p[6]), xytext=(6*0.9, p[6]*0.9), arrowprops=dict(arrowstyle="->", connectionstyle="arc3,rad=.2")) #添加注释,即85%处的标记。这里包括了指定箭头样式。
plt.ylabel(u'percentage')
plt.show()
1.4相关性分析
分为直接绘制散点图与绘制散点图矩阵。
散点图矩阵可以用于对多个变量的关系进行分析,在进行多原线性回归会比较重要。
1.4.1pearson相关系数
1.4.2spearman秩相关系数
在实际应用中,上面两个相关系数都要进行假设检验,使用t检验方法检验显著性水平以确定相关程度。在正态分布假设下,spearman秩相关系数与pearson相关系数在效率上等价,对于连续测量数据,用Pearson相关系数更好。
1.4.3判定系数
判定系数是相关系数的平方,越接近1说明相关行越强。
使用corr()函数进行统计。
1.5数据统计函数
sum():计算数据样本的总和(按列计算);
mean():算数平均数
var():计算数据样本的方差
std():计算数据样本的标准差
corr():计算数据样本的Spearman(Pearson)相关系数矩阵
cov():协方差矩阵
skew():偏度
kurt():峰度
describe():样本的基本描述(基本统计量)
函数的使用
#coding:utf-8
import pandas as pd
import numpy as np
d = pd.DataFrame([range(1,8),range(2,9)])#一行1-7,一行2-8
d
d.corr(method = 'pearson')#计算相关系数矩阵
s1 = d.loc[0]#提取第一行
s2 = d.loc[1]#提取第二行
s1.corr(s2,method = 'pearson')#计算两行的相关系数
dd = pd.DataFrame(np.random.randn(6,5))#产生6*5随机矩阵
dd.cov()#协方差矩阵
dd[0].cov(dd[1]#第一列和第二列的协方差
1.6扩展统计特征函数
pandas除了提供基本操作,还提供计算统计特征的函数,主要有累计计算(cum)和滚动计算(pd.rolling_)
函数的使用
1.7出图
Python主要的做图库是matplotlib,一般是结合pandas进行使用。
作图之前一般要敲以下代码:
#coding:utf-8
import matplotlib as plt
plt.rcParams['font.sans-serif'] = ['SimHei']
plt.rcParams['axes.unicode_minus'] = False
plt.figure(figsize = (7,5))
作图完成后使用plt.show()显示结果。
(1)plot
#coding:utf-8
#在区间绘制一条蓝色的正弦曲线
import matplotlib.pyplot as plt
import pandas as pd
import numpy as np
plt.rcParams['font.sans-serif'] = ['SimHei']
plt.rcParams['axes.unicode_minus'] = False
x = np.linspace(0,2*np.pi,50)
y = np.sin(x)
plt.plot(x,y,'bp--')
plt.show()
(2)pie
labels = 'frogs','hogs','dogs','logs'
sizes = [15,30,45,10]#比例
colors = ['yellowgreen','gold','lightskyblue','lightcoral']
explode = (0, 0.1, 0, 0)#突出显示,仅突出第二块
plt.pie(sizes, explode = explode, labels = labels, colors = colors, autopct = '%1.1f%%',shadow = True, startangle = 90)
plt.axis('equal')#显示为圆,避免比例压缩
plt.show()
(3)hist
x = np.random.randn(1000)
plt.hist(x,10)
plt.show()
(4)boxplot
(5)plot(logx = True) / plot(logy = True)
x = pd.Series(np.exp(np.arange(20)))
x.plot(label = u'原始数据图',legend = True)##legend用于图例
plt.show()
x.plot(logy = True, label = u'对数数据图',legend = True)
plt.show()
(6)plot(yerr=error)
error = np.random.randn(10)
y = pd.Series(np.sin(np.arange(10)))
y.plot(yerr = error)
plt.show()
总结
刚开始接触这些库有些不熟练,需要查找更多的资料进行编程实践。