C4.5
熵公式
Entropy(S)=∑i=1c−pilog2piGain信息增益
Gain(S,A)=Entropy(S)−∑v∈VA|Sv||S|Entropy(Sv)VA 是属性A的值域
S 是样本集合
Sv 是 S 中在属性A 上值等于 v 的样本集合分裂因子
SplitInfo(S,A)=−∑i=1c|Si||S|log2|Si||S| 信息增益率
GainRatio(S,A)=Gain(S,A)SplitInfo(S,A)
C4.5
熵公式
Entropy(S)=∑i=1c−pilog2piGain信息增益
Gain(S,A)=Entropy(S)−∑v∈VA|Sv||S|Entropy(Sv)VA 是属性A的值域
S 是样本集合
Sv 是 S 中在属性A 上值等于 v 的样本集合分裂因子
SplitInfo(S,A)=−∑i=1c|Si||S|log2|Si||S| 信息增益率
GainRatio(S,A)=Gain(S,A)SplitInfo(S,A)