机器学习--决策树

在机器学习中决策树是一个基本并且较为重要的一个算法。决策树实际跟二叉树异曲同工。对于怎么去设置决策树根节点或者其分支，一般是根据ID3算法。这个算法是贪心算法。并且有一个公式可以计算，比如：

年龄age	收入income	是否购买buys_type
青年人	低收入	是
中年人	高收入	是
中年人	高收入	是
老年人	高收入	否
中年人	低收入	是
青年人	高收入	是
老年人	高收入	是
中年人	中收入	否
青年人	高收入	是
老年人	中收入	是
中年人	高收入	是

这里可以用这样一套公式：







Gain(age)就是年龄的结构，然后进行对比，那个最大就使用那一做为根节点，以下每一个分支节点都以此类推。