任务描述:有一个完整的数据集,大概30000行,45列,里面有若干空值,现在要去掉有空值的所有行,筛选非空值行,并随机将某些值赋值为空。
import numpy as np
import pandas as pd
data = pd.read_csv('user.csv',encoding='GBK')#读取含有空值的CSV文件
col=data.columns.values.tolist()
data = data.replace(' ', np.NaN) #将空值用python能识别的符号替换
data = data.dropna(axis=0)#去掉含空值的所有行
data1= data.iloc[:, 1:].values
for i in range(10000):
data1[np.random.randint(1,30000)][np.random.randint(0,45)]=None #循环一万次,行列在范围内随机,让该值为空
pd.DataFrame(data.iloc[:, 1:].values).to_csv('user_test01.csv', encoding='utf-8_sig') #生成大约10000个含有空值的文件
pd.DataFrame(data1).to_csv('user_train01.csv',encoding='utf-8_sig')
# 查看测试数据每列空值数据个数 m1=pd.DataFrame(data_test.iloc[:, 1:].values).isna().sum()
#查看训练数据每列空值数据个数 m2=pd.DataFrame(data_train).isna().sum()
# print(m1,m2)
思考:为什么说生成含有空值的总数一定小于等于10000