ID3决策树学习算法是以信息增益为准则来划分的属性的。对于一个属性的信息增益越大,一般而言,使用这个属性来进行划分所获得的“纯度提升”越大。 ID3中的ID是Iterative Dichotomiser(迭代二分器)的简称。 数据表如下图: 1.首先计算结果选项出现的频率: 类1(p1) 类2(p2) 0.6429 0.3571 2.计算因变量的期望信息: