TOWEGGS的博客

原创 决策树算法之ID3（基于信息增益的最优特征选取）

ID3算法的基本流程：1.计算数据集中所有特征（属性）的信息增益。2.比较信息增益最大的作为最优特征，以此为决策树的根节点。3.在剩余未成节点的特征中进行递归成树。核心思想：      决策树算法中根节点的分类权重最高，向下依次递减；选取分类能力最强的特征作为根节点可以极大的提升分类效率。通过信息增益量化每个特征的分类能力，该特征信息增益越大，分类能力越强，即：计算数据