准确率:预测的准确与否是本算法的核心问题,其在征信系统,商品购买预测等都有应用。
速度:一个好的算法不仅要求具备准确性,其运行速度也是衡量重要标准之一。
强壮行:具备容错等功能和扩展性等。
可规模性:能够应对现实生活中的实际案例
可解释性:运行结果能够说明其含义。
准确率:预测的准确与否是本算法的核心问题,其在征信系统,商品购买预测等都有应用。
速度:一个好的算法不仅要求具备准确性,其运行速度也是衡量重要标准之一。
强壮行:具备容错等功能和扩展性等。
可规模性:能够应对现实生活中的实际案例
可解释性:运行结果能够说明其含义。
2 判定树是一个类似于流程图的树结构:其中,每个内部结点表示在一个属性上的测试,每个分支代表一个属性输出,而每个树叶结点代表类或类分布。树的最顶层是根结点。
如上案例判断是否去打球?根节点显示14天中9天适合打球,其中5天不适合打球。这里面没有全部一致的情况,说明还需要细分:
1 晴天:晴天中有2天适合打球,3天不适合打球,还需细分①湿度小于等于70时候有2天都适合打球,停止划分;②湿度大于70有3天都不适合打球,停止划分。
2 阴天:共4天都适合打球,停止划分。
3 雨天:3天适合打球,2天不适合打球,继续划分。①没有风的有3天且都适合打球,停止划分;②有风的2天且都不适合打球,停止划分。
注意:有的时候不易太细的划分,特征过多过细的话反而会影响预测的准确率。把大多数归为一类,极少数的可以归到大多数之中。
案例:如上决策树,如果某天是:晴天,湿度90 判定是否适合打球,可以由图知是不适合打球的。
3 官方文档: http://scikit-learn.org/stable/modules/tree.html
2 构造决策树的基本算法:判定顾客对商品购买能力
2.1 算法结果图:
根据决策树分析如下客户数据,判定新客户购买力。其中
客户年龄age:青年、中年、老年
客户收入income:低、中、高
客户身份student:是学生,不是学生
客户信用credit_rating:信用一般,信用好
是否购买电脑buy_computer:购买、不购买
2.2 在介绍决策树算法之前,我们引入熵的概念。熵的(entropy)概念:信息和抽象,如何度量?
1948年,香农提出了 ”信息熵(entropy)“的概念,一条信息的信息量大小和它的不确定性有直接的关系,要搞清楚一件非常非常不确定的事情,或者是我们一无所知的事情,需要了解大量信息==>信息量的度量就等于不确定性的多少。
例子:猜世界杯冠军,假如一无所知,猜多少次?每个队夺冠的几率不是相等的,比特(bit)来衡量信息的多少。
采用如下方式求信息熵:
1 当每个球队夺冠概率相等时候,3