DM 决策树

代码说明

具体可见代码注释，决策树实现的主要部分：

• build_tree：递归构建决策树。先检查当前节点的标签集是否只包含一个类别，如果是，则创建叶节点并返回。然后，调用 find_best_split 方法找到最佳的划分特征和划分值。如果无法再进行划分，则创建叶节点并返回。否则，根据最佳划分创建左子树和右子树，并递归地调用 build_tree 方法构建子树。

• find_best_split：遍历所有特征和可能的取值，计算每个可能划分的基尼指数，并选择基尼指数最小的划分作为最佳划分。它根据特征的数量循环迭代，并对每个特征的每个取值进行计算，调用 calculate_gini_index 方法计算划分的基尼指数。

---

算法优化

• 在构建决策树时，使用了基尼指数来确定最佳的划分特征。通过选择最具有区分度的特征，可以减少决策树的深度，提高模型的效率和准确率。
• 通过计算剪枝前后的误分类数量，进行剪枝判断。

---

实验结果