昨天看一个机器学习面试材料的时候,发现他把C4.5算法中信息增益率描述为信息增益与之前熵的比值。这个有问题,在周志华书中确认了这一点,即增益率描述的是信息增益与(该特征IV值,其实就是熵)的比值,公式描述如下:
Gain(D,a)IV(a) G a i n (
昨天看一个机器学习面试材料的时候,发现他把C4.5算法中信息增益率描述为信息增益与之前熵的比值。这个有问题,在周志华书中确认了这一点,即增益率描述的是信息增益与(该特征IV值,其实就是熵)的比值,公式描述如下: