机器学习笔记(10)——Adaboost算法

Adaboost算法

1.概念

这就是Adaboost的结构，最后的分类器$Y_M$是由数个弱分类器（weak classifier）组合而成的,相当于最后m个弱分类器来投票决定分类，而且每个弱分类器的“话语权”α不一样。

1.初始化所有训练样例的权重为$w_{1i}=\frac1 N$,其中N是样例数，M个弱分类器

2.for m=1,…,M:

a)训练弱分类器$y_m()$，使其最小化权重误差函数（weighted error function）：

ϵm=∑n=1Nw(m)nI(