权重森林

论文原文及代码下载地址CSDN：https://download.csdn.net/download/qq_34949782/12573655

论文原文及代码下载地址百度网盘：链接：https://pan.baidu.com/s/1_yPS8V6ezQpsLRRoZF6S8g 提取码：mgvt

论文原文下载地址百度网盘：链接：https://pan.baidu.com/s/18tJi_rY1B1LtWDo_BNpDJw  提取码：gga5 

决策树是应用广泛的算法。一个包含一个特征的决策树，是在该特征空间上的一维划分，划分的每个区间里包含的类别，即为分类的类别。在决策树中剪枝的各种剪枝策略，使用决策树中组合的随机森林与GBDT等各种算法，都能在机器学习中占有举足轻重的地位。这些算法的学习特征，都是来源于决策树中每个特征的一维空间的划分。这些算法本质上都是从每个特征划分的一维空间，组成的高维空间中提取有用的信息。例如，用样本数据中的特征，每一个特征建立一颗决策树，这样就可以得到每个特征的一维空间划分，所有一维空间组成的高维空间，就是算法求解的空间。那么这些算法都是在这个高维空间中寻找‘结果’，例如，随机森林就像用部分特征在高维空间中找到多条‘路’，通向结果。

一般来说，用样本可以估计总体。那么用很少样本构建的高维空间，也能与总体样本构建的空间相媲美。只要方法得当，就能用很少的样本训练的模型，在总体上得到很好的结果，即模型泛化能力强。文中给出一种算法，实验表明，文中的算法具有很好的泛化性能。

权重森林是一种集成学习算法，为每一颗由一个特征生成的树，对目标的每个类别的预测值赋予一个权重。权重森林的权重，由权重矩阵和全连接的权重两部分组成，使用不同的方法更新两种权重。实验表明，在CICD2017数据集上权重森林泛化性能强于随机森林。