版权声明:本文为博主原创文章,未经博主允许不得转载。
一、数据下载
二、问题思考
- 在构建一个决策树模型时,我们对某个属性分割节点,下面四张图中,哪个属性对应的信息增益最大? 答案:A
- A. outlook B. humidity C. windy D. temperature
- 解析:李航的《统计学习方法》中,对信息增益有如下定义:特征 A 对训练数据集 D 的信息增益 g(D,A),定义为集合 D 的 经验熵 H(D) 与 特征 A 给定条件下 D 的经验条件熵 H(D|A) 之差,即 g(D,A) = H(D) -