![](https://img-blog.csdnimg.cn/2020030510151791.jpg?x-oss-process=image/resize,m_fixed,h_224,w_224)
机器学习
KNN ,线性回归 ,逻辑回归, 决策树算法,集成学习,聚类算法,朴树贝叶斯,支持向量机,XGboost,pandas
baihaisheng
这个作者很懒,什么都没留下…
展开
-
决策树
什么是决策树以一个母亲要给女儿介绍男朋友为例,在见面之前,都会判断一下各方面的条件,然后再决定去还是不去,那么其实决策树构建思想类型,在进行节点的划分 前首先进行判断。决策树的划分依据决策树如何剪枝...原创 2020-03-05 21:57:48 · 379 阅读 · 0 评论 -
xgboost
什么是XGboost概述XGBoost(Extreme Gradient Boosting)全名叫极端梯度提升树,XGBoost是陈天奇等人开发的一个开源机器学习项目,在GBDT的提升改进版,在Kaggle比赛中被广泛使用,并且取得不错的成绩。XGboost提到XGboost不得不提GBDT(梯度提升决策树),GBDT决策树的构建使用的是回归决策树构建决策树GBDT原...原创 2020-03-05 14:48:59 · 746 阅读 · 0 评论 -
逻辑回归
概述逻辑回归(Logistic Regression)是机器学习中的一种分类模型,逻辑回归是一种分类算法,虽然名字中带有回归。由于算法的简单和高效,在实际中应用非常广泛逻辑回归原理逻辑回归是在线性函数h(x)输出j结果的基础上,输入到sigmoid函数将实际值映射到到0,1之间,根据设置阈值(默认为0.5为阈值)判断属于正例还是反例,并且这个类别默认标记为1(正例),另外的一个类别会...原创 2020-03-10 18:50:44 · 108 阅读 · 0 评论 -
朴素贝叶斯
思想实现概率联合概率条件概率独立公式为拉普拉斯原创 2020-03-10 15:42:04 · 346 阅读 · 0 评论 -
AdaBoost
boosting思想实现过程原创 2020-03-07 22:08:49 · 174 阅读 · 0 评论 -
随机森林
bagging集成原理bagging主要思想是从总样本中随机抽取一部分样本,训练产生一个分类器,在重复的几次,训练产生n个分类器,当要判断另一个 样本B的分类结果时,b样本输入到模型内对应不同的分类器,如果大部分分类器的结果是假如是A,那么B样本的判断结果就属于A类别随机森林的构造过程随机森林是一种基于树模型Bagging的优化版本随机森林的构造过程随机的从样本中抽取m个特征样...原创 2020-03-06 22:29:59 · 173 阅读 · 0 评论 -
线性回归
什么是线性回归线性回归是利用回归方程对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式线性回归模型:f(x)=wTx线性回归模型的目标就是找到一系列参数 w来使得 f(x)=wTx尽可能地贴近真实值以房子价格为例:真实关系:真实房子价格 = 0.02×中心区域的距离 + 0.04×城市一氧化氮浓度 + (-0.12×自住房平均房价) + 0.254...原创 2020-03-06 17:39:45 · 191 阅读 · 0 评论 -
GBDT原理
概述GBDT全称Gradient Boosting Decision Tree,梯度提升决策树,要理解GBDT的原理,首先理解一下GBDT中的Gradient Boosting 和Decision TreeDecision Tree(决策树)GBDT不论分类还是回归问题,使用的都是CART决策树,因为GBDT要拟合负梯度值,负梯度的值是连续的,所以选择回归Gradient Boos...原创 2020-03-05 20:51:21 · 306 阅读 · 0 评论