![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习算法
随风飘的风
这个作者很懒,什么都没留下…
展开
-
Boosting学习总结及理解(1)
Boosting是集成学习算法中用的比较多的一类,主要的代表算法有Adaboost,GBDT,XGBoost。首先boosting算法是一个不断迭代提升的过程,这个过程整体是串行的(XGBoost在建立回归树的过程中可以实现并行化)。首先基于训练集训练出一个弱分类器,根据该弱分类器的分类结果看看哪些样本被分类错了,然后增大分类错误样本的权重,减小分类正确的样本的权重,构成新的数据集,然后传入下...原创 2018-08-04 17:01:43 · 5443 阅读 · 2 评论 -
Boosting学习总结及理解(2)
其他内容见上一篇博文。GBDT(梯度提升决策树):GBDT属于提升树,所以也是决策树的加法模型: ,其中表示第m颗树对输入数据 x 的预测值如何来学习得到这个加法模型?从前往后一步一步学习,每一步学习得到一个模型即可: ...原创 2018-08-05 19:49:16 · 527 阅读 · 0 评论 -
支持向量机(SVM)详细推导及理解(1)
支持向量机包含三种:(1)线性可分支持向量机:当训练数据线性可分时,可通过硬间隔最大化,学习一个线性的分类器,叫线性可分支持向量机,也称硬间隔支持向量机(2)线性支持向量机:当训练数据近似线性可分时,可通过软间隔最大化,也学习一个线性的分类器,叫线性支持向量机,也称为软间隔支持向量机(3)非线性支持向量机:当训练数据线性不可分时,通过使用核函数技巧及软间隔最大化,学习一个非线性的支持向...原创 2018-08-19 22:31:21 · 16087 阅读 · 6 评论