剪枝

• 在决策树学习中将已生成的树进行简化的过程称为剪枝。具体地，剪枝从已生成的树上裁减掉一些子树或叶节点，并将其根结点或父结点作为新的叶节点，从而简化分类树模型。
• 决策树生成算法递归地产生决策树，直到不能继续下去为止，这样产生的决策树往往对数据的分类很准确，但对未知的测试数据的分类却没有那么准确，即出现过拟合现象，过拟合的原因在于学习时过多地考虑如何提高队训练数据的正确分类，从而构建出过于复杂的决策树，解决这个问题的办法是考虑决策树的复杂度，对已生成的决策树进行简化。