模式识别随机森林算法上机实验实现代码全

随机森林算法

1．1 题目的主要研究内容

1. 小组的主要任务描述

查找相关资料并介绍随机森林的基本原理，查找相关例程及数据，使用Python和MATLAB软件对随机森林的算法进行演示并分析结果，总结随机森林算法的优缺点及适用性。

1. 自己工作的主要描述

查找数据集及随机森林算法例程，通过Python软件导入数据集对随机森林算法进行演示和讲解，对运行结果进行分析及评判。

1．2 题目研究的工作基础或实验条件

（1）硬件环境（PC机）

（2）软件环境（Python）

1．3 设计思想

从原始训练集中随机有放回采样取出m个样本，共进行n次采样。生成n个训练集。对n个训练集，我们分别训练n个决策树模型，对于单个决策树模型，每次分裂时根据信息增益/信息增益比/基尼指数，选择最好的特征进行分裂。每棵树都已知这样分裂下去，知道该节点的所有训练样例都属于同一类。在决策树的分裂过程中不需要剪枝。将生成的多颗决策树组成随机森林。对于分类问题，按照多棵树分类器投票决定最终分类结果；对于回归问题，由多颗树预测值的均值决定最终预测结果。

1．4 基本思路

（1）导入文件并将所有特征转换为float形式。

（2）将数据集分成n份，方便交叉验证，构造数据子集（随机采样），并在指定特征个数（假设m个，手动调参）下选取最优特征。

（3）构造决策树，创建随机森林（多个决策树的结合）。

（4）输入测试集并进行测试，输出预测结果。

1．5 构造步骤