基于原生Python实现决策树(Decision Tree)

🏆 本文收录于专栏: 零基础学机器学习
🔥 专栏介绍: 本专栏将帮助您了解机器学习、其工作原理以及如何使用它。本教程包含以下内容:监督和无监督学习、线性回归、随机森林算法、朴素贝叶斯分类器、K-means聚类算法等等等基础学习基础知识，以及各种实战案例。

简介

决策树是一种基本的分类与回归方法，它模拟了人类决策过程中的决策树状结构，以树状图的形式对数据进行分类或回归。决策树由节点（node）和边（edge）组成，主要包括根节点（root node）、内部节点（internal nodes）和叶节点（leaf nodes）。

基本原理

• 根节点（Root Node）：包含数据集的全部数据。
• 内部节点（Internal Nodes）：对应属性测试条件，通过对某个特征的测试将数据分割成两个或多个子集。
• 叶节点（Leaf Nodes）：代表决策结果，即分类的类别或回归的值。

决策树的构建过程主要是递归地选择最优特征，并根据该特征