- 博客(6)
- 收藏
- 关注
RSS订阅原创 Boosting算法原理（Adaboost篇）
Boosting算法原理Boosting方法是一种用来提高弱分类算法准确度的方法,这种方法通过构造一个预测函数系列,然后以一定的方式将他们组合成一个预测函数。Boosting是一种提高任意给定学习算法准确度的方法。1）提高那些在前一轮被弱分类器分错样例的权值，减小前一轮分对样本的权值，使误分的样本在后续受到更多的关注。2）加法模型将弱分类器进行线性组合，比如AdaBoost通过加权多数...
2019-04-18 19:39:13
7391
原创 决策树CART算法原理详解
大家好，今天用一个简单的例子来给大家介绍一下决策树中的CART算法。CART分类树CART分类树适用于预测结果为离散型数据的情况下，主要是计算每一组特征的Gini系数增益来确定决策树划分的优先规则，主要是采用一种二分方法，当一列特征有K个类别，第k个类别概率为pk时，其计算Gini系数系数的公式为： ...
2019-04-13 20:21:48
8767
4
原创 使用C4.5算法实现决策树（Python）
使用C4.5算法实现一棵完整的树决策树的构建需要找到最优特征列对树的节点进行层层划分，而找寻最优特征列常用的有ID3，C4.5，CART三种方法，今天我给大家讲解一下如何使用C4.5算法来找到最优特征列来建立决策树。1.首先我们创建一组数据，该数据组一共由8组数据组成，共2列特征列，1列标签列from math import logimport operatordef crea...
2019-04-09 21:00:10
13085
4
原创 使用ID3算法实现决策树（Python）
使用ID3算法实现一棵完整的树今天，我来和大家分享一下最近学会的使用ID3算法来实现整个决策树。直接上码def createDataSet(): dataSet = [[1,1,'yes'], [1,1,'yes'], [1,0,'yes'], [0,1,'no'], ...
2019-04-09 19:50:41
1901
1
原创 决策树ID3算法的代码实现（Python）
使用Python代码实现ID3算法大家好，今天我来为大家使用python代码简单的实现一下决策树中的ID3算法。话不多说，直接上码1. 首先，我们先创建一组数据，该数据组一共由8组数据组成，共2列特征列，1列标签列from math import logimport operatordef createDataSet(): dataSet = [[1,1,'y...
2019-04-06 10:47:36
3089
原创 决策树算法原理（三种最优属性划分方法）
大家好，今天，我们来介绍一下决策树的原理。决策树算法在当今机器学习中经常用到，它既可以作为分类算法，也可以作为回归算法，下面我会和大家对这个算法中的一些理论进行一一介绍。1.决策树ID3算法决策树算法通俗来讲，就是一种按照重要性（信息增益）层层分类的分类方法，此文章借西瓜书中的例子来为大家讲解信息增益：“信息熵”是度量样本集合纯度最常用的一种指标，假设当前样本集合D中第k类样本所占...
2019-04-04 21:02:25
16786
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人