【决策树】预剪枝和后剪枝

1.预剪枝（自上而下）

 

2.后剪枝（自下而上）

(1) 剪枝前 acc=3/7。关注“乌黑”的分支，测试集中的8,9均判断错误。如果把"乌黑"剪枝(如下图)，则测试集中的8判断正确，9判断错误，acc=4/7。准确度提高，应当剪枝。 

 (2) 把"乌黑"剪枝后，acc=4/7。此时关注“凹陷”的分支，测试集中的4判断正确，5,13均判断错误。如果把"凹陷"剪枝(如下图)，则测试集中的4,5判断正确，13判断错误，acc=5/7。准确度提高，应当剪枝。 

 (3) 后剪枝得到的结果如下：