决策树
文章平均质量分 88
暗狼之殇
目前正在转型人工智能
展开
-
决策树算法-ID3、C4.5和CART
算法对比 线性模型与决策树模型的对比: 线性模型是将所有的特征转变为概率,并对所有的特征加权求和,从而对模型进行分类,只能找到线性分割,而决策树模型是一个一个特征的进行处理,对每一个特征进行划分,可以找到非线性分割; 决策树算法ID3 ID3算法是一种贪心算法,用来构建决策树,ID3起源于概念学习系统,以信息熵的下降速度为选取测试属性的标准;即在每个节点选取还尚未被用来划分的具有最高信息...原创 2018-07-24 12:33:03 · 833 阅读 · 0 评论 -
集成学习算法-Bagging和Boosting及其相关算法概述
1、集成学习 1.1 简介 在学习树模型的时候,经常听到有关于集成学习的概念。集成学习在机器学习中有较高的准确率,不足之处就是模型的训练过程比较复杂,效率不是很高;主要分为两种类型: (1)基于boosting思想的算法,例如:Adaboost、GDBT和XGBOOST。 (2)基于Bagging思想的算法,经典的就是随机森林算法 1.2 集成学习的思想 首先...原创 2018-07-24 19:12:48 · 1825 阅读 · 0 评论