吴恩达机器学习笔记 二十四 决策树模型 学习过程 什么时候停止分裂 如何选择结点特征

案例：识别小猫，上面这个分类的特征 x 采用分类值（几个离散的值）

决策树最顶端的结点称根结点(root node)，除了根结点和叶子结点之外的叫决策结点(decision node)，最底层的叫叶子结点(leaf node)，叶子结点做出预测

决策树的学习过程

确定根结点使用什么特征，分类后再选一个特征进行分类，直到分出的一组中都是同一类了结束。

问题1：怎么选择决策结点使用的特征？

要选能使纯度（一个子集更接近完全是狗，或者更接近完全是猫）最大的那个

问题2：什么时候停止分裂？

当一个结点完全只有一类东西时；当再分出来结点会导致树超过最大深度时（树的深度从0开始）；当纯度分数的提升在一个阈值下时（再分裂也提升不了多少）；当一个结点的样本数低于一个阈值时。

保持树不太深有两个原因：一是为了快，另一个是这样不太容易过拟合