- 初始化数据加权系数 w n = 1 / N w_{n}=1/N wn=1/N
- 对于
m
=
1
,
.
.
.
,
M
m=1,...,M
m=1,...,M
- 使用训练数据调节一个分类器 y m ( x ) y_{m}(x) ym(x),调节的目标是最小化加权的误差函数 J m = ∑ n = 1 N w n ( m ) I ( y m ( x n ) ≠ t n ) J_{m}=\sum_{n=1}^{N}w_{n}^{(m)}I(y_{m}(x_{n})\neq t_{n}) Jm=n=1∑Nwn(m)I(ym(xn)̸=tn)
- 计算 ϵ m = ∑ n = 1 N w n ( m ) I ( y m ( x n ) ≠ t n ) ∑ n = 1 N w n ( m ) \epsilon_{m}=\frac{\sum_{n=1}^{N}w_{n}^{(m)}I(y_{m}(x_{n})\neq t_{n})}{\sum_{n=1}^{N}w_{n}^{(m)}} ϵm=∑n=1Nwn(m)∑n=1Nwn(m)I(ym(xn)̸=tn) α m = l n 1 − ϵ m ϵ m \alpha_{m}=\mathrm{ln}\frac{1-\epsilon_{m}}{\epsilon_{m}} αm=lnϵm1−ϵm
- 更新权重系数 w n ( m + 1 ) = w n ( m ) e x p ( α m I ( y m ( x n ) ≠ t n ) ) w_{n}^{(m+1)}=w_{n}^{(m)}exp(\alpha_{m}I(y_{m}(x_{n})\neq t_{n})) wn(m+1)=wn(m)exp(αmI(ym(xn)̸=tn))
- 使用最终的模型进行预测 Y M ( x ) = s i g n ( ∑ m = 1 M α m y m ( x ) ) Y_{M}(x)=sign(\sum_{m=1}^{M}\alpha_{m}y_{m}(x)) YM(x)=sign(m=1∑Mαmym(x))
机器学习面试必知:Adaboost算法的精确形式
最新推荐文章于 2022-07-01 17:14:02 发布