![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
数据挖掘与机器学习
文章平均质量分 72
瓜皮陈玉
stay hungry,stay young!
展开
-
数据挖掘学习之决策树算法PART2
1. CART决策树算法划分选择 ID3算法使用信息增益来选择特征;C4.5算法中,采用信息增益比选择特征来减少信息增益容易选择特征值多的特征的问题。但是无论是ID3还是C4.5,都是基于信息论的熵模型的,这里面会涉及大量的对数运算。运算量大,且不能用于回归,能不能优化为二分类问题呢?CART算法使用基尼系数来代替信息增益比,基尼系数代表了模型的不纯度,基尼系数越小,则不纯度越低,特征越转载 2017-11-07 23:04:11 · 564 阅读 · 0 评论 -
数据挖掘与机器学习之交叉验证
泛化误差和训练误差学习器在训练集通过学习得到了一个模型,那么这个模型会不会真的适用于其他的场景呢?一般来说,模型在训练集上的误差叫作训练误差,而在新的样本或者说数据集上的误差叫作泛化误差,显然,我们希望得到一个泛化误差小的模型应用于新的数据集和场景。过拟合和欠拟合过拟合是指学习器把训练集自身的一些特征当做了所有的样本的一般性性质,导致了模型泛化能力的下降,而欠拟合则是指学习能力低,对训翻译 2017-11-08 15:49:28 · 1227 阅读 · 0 评论 -
数据挖掘学习之数据探索
数据探索是数据挖掘必不可少的一环,数据探索技术会对模型准确率的提高带来惊喜的效果。1、什么是数据探索?答:数据探索是通过绘图、计算、等手段,分析数据集的数据质量、数据的结构、数据的趋势和数据的关联性,为数据探索之后的特征工程阶段打下坚实的基础。2、数据探索的内容数据的质量分析和数据的特征分析2.1数据的质量分析是指检查数据中是否存在脏数据,包括:缺失值、异常值、原创 2017-11-03 12:57:33 · 974 阅读 · 0 评论 -
数据挖掘学习之特征工程
1、什么是特征工程有这么一句话在业界广泛流传:数据和特征决定了机器学习的上限,而模型和算法只是逼近这个上限而已。那特征工程到底是什么呢?顾名思义,其本质是一项工程活动,目的是最大限度地从原始数据中提取特征以供算法和模型使用。通过总结和归纳,特征工程包括以下方面特征处理是特征工程的核心部分,sklearn提供了较为完整的特征处理方法,包括数据预处理,特征选择,降维等。原创 2017-11-03 14:41:59 · 489 阅读 · 0 评论 -
数据挖掘学习之决策树算法
1、决策树的基本原理首先拥有训练集,训练集中获得属性集A,在根节点,训练集根据特征的不同取值,将训练集根据特征取值分为若干子数据集,对接下来的若干个子数据根据剩下来的属性特征进一步划分,使得椰子结点得到的数据集尽可能为同一类。这就是决策树的基本思想。类似与平时玩游戏是给出一个信息,然后回答:对或者错的游戏。2、划分选择那么划分选择就是决策树的重点啦。2.1决策树ID3算法首先,原创 2017-11-06 23:33:10 · 549 阅读 · 0 评论