python随机森林变量重要性_python中随机森林如何优化

2.声纳数据集案例研究

在本节中，我们将把随机森林算法应用到声纳数据集。

该示例假定数据集的CSV副本位于当前工作目录中，文件名为sonar.all-data.csv。

首先加载数据集，将字符串值转换为数字，并将输出列从字符串转换为0和1的整数值。这可以通过使用帮助器函数load_csv()，str_column_to_float()和str_column_to_int()来加载和预备数据集。

我们将使用k-fold交叉验证来估计未知数据的学习模型的性能。这意味着我们将构建和评估k个模型，并将性能估计为平均模型误差。分类准确性将用于评估每个模型。这些工具或是算法在cross_validation_split()，accuracy_metric()和evaluate_algorithm()辅助函数中提供。

我们也将使用适合套袋包括辅助功能分类和回归树(CART)算法的实现)test_split(拆分数据集分成组，gini_index()来评估分割点，我们修改get_split()函数中讨论在前一步中，to_terminal()，split()和build_tree()用于创建单个决策树，预测()使用决策树进行预测，subsample()创建训练数据集的子采样，以及bagging_predict()用决策树列表进行预测。

开发了一个新的函数名称random_forest()，首先根据训练数据集的子样本创建一个决策树列表，然后使用它们进行预测。

正如我们上面所说的，随机森林和袋装决策树之间的关键区别是对树的创建方式中的一个小的改变，这里是在get_split()函数中。