随机森林matlab降维,七种降维方法

之前介绍过关于降维和特征选择，这里对几种降维方法进行介绍，与之前的方法大致相同。

​1 缺失值比例

​该方法的是基于包含太多缺失值的数据列包含有用信息的可能性较少。因此，可以将数据列缺失值大于某个阈值的列去掉。阈值越高，降维方法更为积极，即降维越少。该方法示意图如下：

关于缺失值阈值的确定，使用的方法就是实验不同的值，上图中的文字描述写明了过程

1)从0.1到0.9实验阈值，每步长0.1

2)计算特征的缺失率，去除高于阈值的特征

3)用训练数据训练模型，测试数据对模型性能进行评测

4)选择性能最好时对应的阈值​

2 低方差滤波

​该方法假设数据列变化非常小的列包含的信息量少。因此，所有的数据列方差小的列被移除。需要注意的一点是：方差与数据范围相关的，因此在采用该方法前需要对数据做归一化处理。算法示意图如下：

​3 高相关滤波

​高相关滤波认为当两列数据变化趋势相似时，它们包含的信息也显示。这样，使用相似列中的一列就可以满足机器学习模型。对于数值列之间的相