使用随机森林填补缺失值

       使用随机森林进行缺失值填补的思想：

       X和y之间是有联系的，所以才能用X预测y;那么反过来，y也可以在一定程度上预测X。

       当X中的某个特征x有缺失值时，我们将该特征看为target，y看作一个新特征（即X去除x和y组成特征向量，x作为target）；无缺失值的样本做训练集，有缺失值的样本做测试集，使用随机森林建模（可以是回归，也可是是分类），对缺失值进行预测。

       当X中有多个特征有缺失值时，从缺失值最少的特征开始处理，此时其他缺失值用0填充；当该特征的缺失值用随机森林预测出来后，填补到原始数据中，之后继续按上述方法处理下一个缺失值。

import warnings
warnings.filterwarnings("ignore")
import matplotlib.pyplot as plt
%matplotlib inline
import numpy as np
import pandas as pd
from sklearn.ensemble import RandomForestRegressor
from sklearn.datasets import load_boston
from sklearn.model_selection import cross_val_score
from sklearn.impute import SimpleImputer

#导入原始数据
ori_x = load_boston().data
target = load_boston().target

pd.DataFrame(ori_x).isnull().sum()
#可以看出，原始数据中13个特征都没有缺失值

0     0
1     0
2     0
3     0
4     0
5     0
6     0
7     0
8     0
9     0
10    0
11    0
12    0
dtype: int64

missing_rate = 0.2 #设置缺失率
missing_cnt = int(np.ceil(missing_rate*ori_x.shape[0]*ori_x.shape[1])) #计算一共有多少个数据将缺失
rs = np.random.RandomState(805) #设置随机数种子
missing_row_idx = rs.randint(0,ori_x.shape[0],missing_cnt) #缺失数据的行索引
missing_col_idx