简明理解AdaBoost算法
从案例理解AdaBoost
(转载自李航《统计学习方法》,有删减),使用AdaBoost算法学习如下训练数据,弱分类器采用sign()函数。
x | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 |
---|---|---|---|---|---|---|---|---|---|
y | 1 | 1 | 1 | -1 | -1 | -1 | 1 | 1 | 1 |
解:
初始化数据权值分布,即 m = 0 m=0 m=0
D 1 = ( w 11 , w 12 , . . . , w 110 ) D_1=(w_{11},w_{12},...,w_{110}) D1=(w11,w12,...,w110) w 1 i = 0.1 , i = 1 , 2 , . . . , 10 w_{1i}=0.1, \quad i=1,2,...,10 w1i=0.1,i=1,2,...,10
对 m = 1 m=1 m=1:
(1) 基本分类器: G 1 ( x ) = − s i g n ( x − 2.5 ) G_1(x)=-sign(x-2.5) G1(x)=−sign(x−2.5)
(2) 误差率 e 1 = P ( G 1 ( x i ) ≠ y i ) = 0.3 e_1=P(G_1(x_i) \neq y_i)=0.3 e1=P(G1(xi)̸=yi)=0.3
(3) 计算 G 1