李航统计学习-adaboost算法

adaboost属于一种提升方法,提升方法基于这样的一种想法:对于一个复杂任务来说,将多个专家的判断进行适当的综合所得出的判断,要比其中任何一个专家的判断要好。提升方法就是将弱学习算法提升为强学习方法的一种手段,其中比较著名的算法是adaboost算法。


adaboost算法描述如下:

 输入:训练数据集T = {(x1, y1), (x2, y2), ..., (xn, yn)},其中 xiXRn,yi∈ Y = {-1, +1},弱学习算法;

输出:最终分类器G(x).

(1) 初始化训练数据的权值分布

  D1 = (w11, ..., w1i,w1n), w1i = 1/n, i = 1, 2, ..., n

(2) 对 m = 1,2,3,...,M有

for m in [1,2,...,M]:

 a) 使用具有权值的分布的Di的训练数据集学习,得到基本分类器

  Gm(x):X -> {-1, +1}

  b) 计算Gi(x)在训练数据集上的分类误差率

  em = P(Gm(xi) != yi) = ∑wmi*I(Gm(xi) != yi)

 c) 计算G

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值