python机器学习12:数据“升维”

#1.向数据集添加交互式特征
在实际应用中，常常会遇到数据集的特征不足的情况，要解决这个问题，就需要对数据集的特征进行扩充。这里我们介绍两种在统计建模中常用的方法—交互式特征（Interaction Features）和多项式特征（Polynomial Features）。现在这两种方法在机器学习领域也非常普遍。
#####1.交互式特征的定义：
顾名思义，交互式特征是在原始数据特征添加交互项，使特征数量增加。
在python中，我们可以通过Numpy的hstack函数来对数据集添加交互项，下面我们先通过一段代码了解一下hstack函数的原理，输入代码如下：

array_1 = [1,2,3,4,5]
array_2 = [6,7,8,9,0]
array_3 = np.hstack((array_1, array_2))
print('将数组2添加到数据1中后得到:{}'.format(array_3))

运行代码如下：
将数组2添加到数据1中后得到:[1 2 3 4 5 6 7 8 9 0]
结果分析：从结果中看到，原来两个5维数组被堆叠到一起，形成了一个新的10维数组，也就是说我们使array_1和array_2产生了交互。假如array_1和array_2分别代表两个数据点的特征，那么我们生成的array_3就是他们的交互特征。
接下来我们继续用之前生成的数据集来进行实验，看对特征进行交互式操作会对模型产生什么样的影响，输入代码如下：

X_stack = np.hstack([X, X_in_bin])
X_stack.shape

运行代码，得到如下结果&#x