Python如何处理Excel脏数据进行回归分析（一）

1.关于空格的处理

关于空格我们可以采取python中自带的replace方法，或者有些不影响数据分析的空格可不做处理。

2.关于数据中“万”、“亿”等数据的处理

我们经常会在爬取的数据中得到带有中文后缀的量词，为进行数据分析我们需要将其转化为电脑能识别的数字。如图G、H列所示：

处理代码如下：

# -*- coding: utf-8 -*-
import numpy as np
import statsmodels.api as sm
import pandas as pd

data=pd.read_excel('dy01.xlsx',encoding='ute-8')
y=data['box-office']
x1=data['release-time']
x2=data['score']
x3=data['score-num']
x4=data['length']
s1=[]
s2=[]
for i in range(len(x3)):
    s1.append(y[i])
print (s1)

for i in range(len(s1)):
    if('万' in  s1[i] ):
        y2=str(s1[i]).replace('万','')
        y3=float(y2)*10000
        s2.append(y3)
    elif('亿' in s1[i]):
        y2 = str(s1[i]).replace('亿', '')
        y3 = float(y2) * 100000000
        s2.append(y3)
    else:
        s2.append(s1[i])
print (s2)

from xlwt import *

file = Workbook(encoding='utf-8')
# 指定file以utf-8的格式打开
table = file.add_sheet('d1')
table.write(0, 0, label='length')
val = 1
for i in range(len(s2)):
    table.write(val, 0,s2[i])
    val += 1

file.save('dy04.xlsx')

运行后结果：

 

3.关于空白数据的处理

可选择直接做删除处理或者填入数据0

​​​​​​​​​​​​​​