![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
集成学习
文章平均质量分 86
李灬华
这个作者很懒,什么都没留下…
展开
-
ELO-Merchant-Category-Recommendation(上篇)
原创 2022-04-13 10:40:37 · 793 阅读 · 1 评论 -
XGBoost :A Scalable Tree Boosting System
模型(加法模型)y^i(T)=∑j=1Tfj(xi)=∑j=1T−1fj(xi)+fj(T)(xi)\hat{y}_{i}^{(T)}=\sum_{j=1}^{T} f_{j}\left(x_{i}\right)=\sum_{j=1}^{T-1} f_{j}\left(x_{i}\right)+f_{j}^{(T)}\left(x_{i}\right)y^i(T)=∑j=1Tfj(xi)=∑j=1T−1fj(xi)+fj(T)(xi)T是基学习器(基于CART算法的回归树)的个数,x原创 2022-04-07 20:19:38 · 997 阅读 · 0 评论 -
提升树、梯度提升、梯度提升树(GBDT)
提升树提升树是以分类树或回归树为基本分类器的提升方法。模型提升树也同提升算法一样采用加法模型(即基函数的线性组合)与前向分步算法,不过基学习器换为决策树。所以提升树模型可以表示为决策树的加法模型:T()表示决策树,M为树的个数 ,Θ表示决策树的参数。算法采用前向分步算法,首先确定初始的提升树f0(x) = 0,第m步的模型是:通过经验风险极小化确定下一棵决策树的参数:策略对于针对不同问题的提升树算法主要区别在于使用的损失函数不同。1.对于二分类问题只需将AdaBoost算法中原创 2022-04-06 15:38:36 · 1593 阅读 · 0 评论