给定节点t:
这里的Pi(t) 是 类i的概率,c是所有类的总数。
- 最大值:1-1/c 当每个记录平分时,是收益最小的分类
- 最小值:0 当所有记录都是属于同一个类时,是最大收益
下面给出一个例子方便理解:
计算单个节点基尼系数:
对于第一组:
P(C1) = 0/6 = 0 P(C2) = 6/6 = 1
Gini = 1 – P(C1)2 – P(C2)2 = 1 – 0 – 1 = 0
对于第二组:
P(C1) = 1/6 P(C2) = 5/6
Gini = 1 – (1/6)2 – (5/6)2 = 0.278
对于第三组:
P(C1) = 2/6 P(C2) = 4/6
Gini = 1 – (2/6)2 – (4/6)2 = 0.444
- Binary Attributes: Computing GINI Index:
再看一个例子:<