什么是决策树

什么是决策树

决策树(Decision Tree），又称判定树，是一个流程图形式的树结构，其中每个中间结点代表某个属性或某组属性上的测试，每个分支则对应了该测试的不同结果，每个叶结点代表某个类别或预测结果。从训练数据中产生决策树的算法，通常被称为决策树学习算法或决策树算法。

决策树是利用树形图进行决策的预测模型，表现出的是对象属性与对象值之间的一种映射关系，是归纳学习和数据挖掘的重要方法。决策树分为分类树和回归树两种：分类树对离散变量做决策树，回归树对连续变量做决策树。

决策树算法主要围绕两大核心问题展开：第一，决策树的生长问题，即利用训练样本集，完成决策树的建立过程。第二，决策树的剪枝问题，即利用检验样本集，对形成的决策树进行优化处理。决策树的算法很多，如ID3、C4.5、CART等。这些算法均采用自顶向下的贪婪算法，每个节点选择分类效果最好的属性将节点分裂为2个或多个子结点，继续这一过程直到这棵树能准确地分类训练集，或所有属性都已被使用过。

 

决策树的优势有：结构简单，便于理解；效率高，较为适合训练集数据量较大的情况；通常不需要接受训练集数据外的知识；具有较高的分类精确度等。