Ensemble Learning Task 10

学习地址:https://github.com/datawhalechina/team-learning-data-mining/tree/master/EnsembleLearning

Task 10 的主要学习内容是 前向分布算法与梯度提升决策树

1. 前向分布算法

1.1 加法模型

加法模型的基本思想是将不同的模型线性相加,使得多个弱分类器组合得到强分类器。
其形式为:
f ( x ) = ∑ m = 1 M β m b ( x ; γ m ) f(x)=\sum_{m=1}^{M} \beta_{m} b\left(x ; \gamma_{m}\right) f(x)=m=1Mβmb(x;γm)
对加法模型f(x)的损失函数极小化即:
min ⁡ β , γ ∑ i = 1 N L ( y i , ∑ m = 1 M β m b ( x ; γ m ) ) ) \min _{\beta, \gamma} \sum_{i=1}^{N} L\left(y_{i},\sum_{m=1}^{M} \beta_{m} b\left(x ; \gamma_{m}\right))\right) β,γmini=1NL(yi,m=1Mβmb(x;γm)))

1.2 前向分布算法

前项分布算法步骤<

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值