Feature Engineering（特征工程）——方法汇总

Feature Engineering（特征工程）

希望目标值$y$和特征$x=[x_1,x_2,...,x_p]$（$p$表示特征数量）之间存在某种关系：$y\approx \hat{y}={\theta }_1{f}_1(x_1)+{\theta }_2{f}_2(x_2)+...+{\theta }_p{f}_p(x_p)$。

则$f_i(x_i)$称为特征映射函数或者基底函数，寻找合适的特征映射函数（基底函数）称为Feature Engineering（特征工程），而寻找合适的系数${\theta }_i$就是最小二乘问题，具体实现过程见之前的笔记。

下面对常用的特征工程方法进行汇总，主要包括三类：特征升维、降维和维度不变三种情况。顾名思义，就是增加、减少和保持原数据的特征数量（original features）不变。

一、维度不变的特征工程方法

1. Standardize Feature(标准化)
   标准化方法有很多，最常用的是最大最小值标准化和z-score标准化，以后者为例，将源数据转化成标准正态分布数据，标准化公式为$f_i(x_i)$