分类决策树原理及实现(一)

一、原理

   决策树是一种用于基本分类与回归的算法，如用于分类，叫分类树；用于回归，叫回归树。像二叉树一样，分类决策树呈树状

结构，基于特征或属性对实例进行分类。 分类决策树由结点和有向边组成，结点有两种类型：内部结点和叶结点。内部结点表示

一个特征或属性，叶结点表示一个类。用决策树进行分类时，从根结点开始，根 据某种选择策略，将实例在某一特征上进行切分、

分配到根的子结点。这时，每一个子结点对应着该特征的一个取值，如此递归地对实例进行切分并分配，直至到达叶 结点，最后

将实例分配到叶结点的类中。

   决策树学习通常包括三个步骤：特征选择、决策树生成、决策树剪枝。

   决策树如下图如示：

  分类决策树(二)
  http://blog.csdn.net/xiaocong1990/article/details/54646274