- 博客(2)
- 收藏
- 关注
RSS订阅原创 决策树中的ID3, C4.5, CART算法及其优缺点
前一篇文章说了决策树算法的一些基本内容，包括它的分类和如何构造决策树。这篇文章我们继续深入如何构造决策树如何构造决策树建树需要解决以下三个问题：选择什么特征分裂如何选择特征分裂的属性值（具体判断条件）什么时候停止分裂以下是损失函数关键的公式熵：entropy(D)=−∑i=1nPilog2Pientropy(D) = -\sum_{i=1}^n P_ilog_2 P_ientr...
2019-03-05 04:37:40
11492
3
原创 决策树的概念，分类和初步的建树过程
决策树，顾名思义就是用树形结构来做决策。如何把我们想达到的算法表达成一棵树直接上例子，图源来自维基百科（titanic dataset)：决策树其实就是一个根据条件从上往下的判断流程，根据条件的是或否，分支成下一层的判断与决策。如果分支不再是一个判断条件，那么它就是一个决策。从这个图我们可以看出feature（在这里面就是判断条件啦）的重要性，直接决定了你会走往哪个决策，性别，年龄，是否...
2019-03-04 09:28:39
1806
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人