分类算法-决策树与随机森林 信息熵决策树的划分依据之一-信息增益随机森林的优点 信息熵 信息和消除不确定性是相联系的 决策树的划分依据之一-信息增益 信息增益:当得知一个特征条件之后,减少信息熵的大小 常用决策树使用的算法 ID3 信息增益:最大的准则C4.5 信息增益比:最大的准则CART 回归树:平方误差最小 分类树:基尼系数:最小的准则,在sklearn中可以选择划分的默认原则 随机森林的优点