加性logistic回归
之前，我在博客中提到了提升法，它按次序在重新加权的训练实例上应用分类算法，然后采纳这些模型输出的加权多数票。
作为优化的强大方法，提升法事实上还可以理解为一种加性回归的方法，按逐步递加的方式来拟合一个加性模型
∑
m
h
m
(
x
)
\sum_{m}h_{m}(x)
∑mhm(x)。
当我们去得到我们的最终模型时，先从
h
1
(
x
)
=
β
1
b
(
x
;
α
1
)
h_{1}(x)=\beta_{1}b(x;\alpha_{1})
h1(x)=β1b(x;α1),即先得到当前模型的最优参数
β
1
,
α
1
\beta_{1},\alpha_{1}
β1,α1,然后使用贪心逐步向前法，每次迭代中确定一组参数
β
m
,
α
m
\beta_{m},\alpha_{m}
βm,αm,即按
β
m
,
α
m
\beta_{m},\alpha_{m}
βm,αm，m=1,2,3,…M依次确定M组参数，得到最终的加性模型的解
H M ( x ) = ∑ m = 1 M h m ( x ) = ∑ m = 1 M β m b ( x ; α m ) H_{M}(x)=\sum_{m=1}^{M}h_m(x)=\sum_{m=1}^{M}\beta_{m}b(x;\alpha_{m}) HM(x)=∑m=1Mhm(x)=∑m=1Mβmb(x;αm)
1813
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
