本文转自:http://blog.csdn.net/qq_27469517/article/details/53482563
整个第四章都是数据预处理。
4.1是数据清洗。就是处理无关数据,缺失或者异常数据等等。
具体看书,就不赘述了,还是上代码实践。
书上给的代码是有问题的!
[python] view plain
copy
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-riNkPMWu-1624933616334)(https://code.csdn.net/assets/CODE_ico.png)]
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-6adzVkq9-1624933616337)(https://code.csdn.net/assets/ico_fork.svg)]
- #拉格朗日插值代码
- import pandas as pd #导入数据分析库Pandas
- from scipy.interpolate import lagrange #导入拉格朗日插值函数
-
- inputfile = ‘data/catering_sale.xls’ #销量数据路径
- outputfile = ‘tmp/sales.xls’ #输出数据路径
-
- data = pd.read_excel(inputfile) #读入数据
- data[u ‘销量’ ][(data[u ‘销量’ ] < 400 ) | (data[u ‘销量’ ] > 5000 )] = None #过滤异常值,将其变为空值
-
- #自定义列向量插值函数
- #s为列向量,n为被插值的位置,k为取前后的数据个数,默认为5
- def ployinterp_column(s, n, k= 5 ):
- y = s[list(range(n-k, n)) + list(range(n+ 1 , n+ 1 +k))] #取数
- y = y[y.notnull()] #剔除空值
- return lagrange(y.index, list(y))(n) #插值并返回拉格朗日插值结果
-
- #逐个元素判断是否需要插值
- for i in data.columns:
- for j in range(len(data)):
- if (data[i].isnull())[j]: #如果为空即插值。
- data[i][j] = ployinterp_column(data[i], j)
-
- data.to_excel(outputfile) #输出结果,写入文件
究其原因,应该是
[python] view plain
copy
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-0OxY4n1N-1624933616339)(https://code.csdn.net/assets/CODE_ico.png)]
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-oBeXXEYw-1624933616341)(https://code.csdn.net/assets/ico_fork.svg)]
- data[u ‘销量’ ][(data[u ‘销量’ ] < 400 ) | (data[u ‘销量’ ] > 5000 )] = None #过滤异常值,将其变为空值
这句话有问题。
改正方法主要是 .loc 函数进行修改。
.loc 函数主要是选定指定列操作,参见 http://blog.csdn.net/chixujohnny/article/details/51095817
参考下面这个链接
http://blog.csdn.net/o1101574955/article/details/51627401
给出了修改版:
[python] view plain
copy
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-0j2DOe8m-1624933616343)(https://code.csdn.net/assets/CODE_ico.png)]