决策树学习、神经学习、贝叶斯学习
决策树学习
题目如下:
下表是一个顾客买车意向的训练集,画出决策树
计算如下:
- 首先计算最大信息熵: 对buy而言,共10个数据,其中yes为6个,no为4个,则最大信息熵为Entropy(D)=- 6 10 \frac{6}{10} 106 * log2 6 10 \frac{6}{10} 106 - 4 10 \frac{4}{10} 104 * log2 4 10 \frac{4}{10} 104 = 0.9710
- 在计算每个属性的熵,对于age,有三种取值(<30、30~60、>60),对于<30有4个,则占 4 10 \frac{4}{10} 104