【人工智能】—_监督学习、分类问题、决策树、信息增益

Decision Trees 决策树

什么是决策树 —— 基本概念

• 非叶节点：一个属性上的测试，每个分枝代表该测试的输出
• 叶节点：存放一个类标记
• 规则：从根节点到叶节点的一条属性取值路径
  

建立决策树分类模型的流程

• 模型训练：从已有数据中生成一棵决策树
• 分裂数据的特征，寻找决策类别的路径
• 相同的数据，根据不同的特征顺序，可以建立多种决策树

如何建立决策树?

基本的决策树学习过程，可以归纳为以下三个步骤：

1. 特征选择：选取对于训练数据有着较强区分能力的特征
2. 生成决策树：基于选定的特征，逐步生成完整的决策树
3. 决策树剪枝：简化部分枝干，避免过拟合因素影响