机器学习基础 - 决策树

理论知识点整理

顾名思义，决策树是基于树状结构来进行决策判断的。决策的最终结论对应输出的判定结果，但决策过程中的每一个节点都可能影响到最终决定。
未完待续中…

优点：

• 具有很好的解释性，模型可以生成可理解的规则
• 可发现特征的重要程度
• 模型的计算复杂度低

缺点：

• 模型容易过拟合，需要采用减枝技术处理。
• 不能很好利用连续型特征
• 预测能力有限，无法达到其他强监督模型效果
• 方差较高，数据分布的轻微改变很容易造成树结构完全不同

代码实现

未完待续中…

参考文献

1、机器学习(西瓜书) - 周志华