AdaBoost

天才狂想者

于 2019-09-07 17:25:22 发布

阅读量517

点赞数

分类专栏：目标识别分类算法

本文链接：https://blog.csdn.net/sinat_36391198/article/details/100600258

版权

目标识别同时被 2 个专栏收录

10 篇文章 0 订阅

订阅专栏

分类算法

7 篇文章 0 订阅

订阅专栏

AdaBoost算法是一种基于迭代的分类算法。在说AdaBoost之前，我们应该先了解Boost算法。

Boost字面意思有增长之意，事实也是如此，Boost算法的核心是多个弱分类器“增长”为一个强分类器。简而言之，Boost算法就是先训练较为简单的弱分类器，弱分类器可以理解为一种逻辑简单的分类器，它的训练和实现较为容易，然后再将他们“组合”成一个强分类器。而采用不同的损失函数，就有着不同类型的Boost算法，AdaBoost就是其中的一种。

AdaBoost算法具体实现：

1）给数据集中的每一个样本赋予一个初始权重（根据具体情况决定如何分配）。并确定弱分类器 $G_{m}(x)$ （m是迭代次数），对每

一个样本进行类型判断。

2）确定弱分类器 $G_{m}(x)$ （m是迭代次数），对每一个样本进行类型判断。计算误差率 $\varepsilon = \sum_{i=1}^{N}w_{m,i}I(G_{m}(x))$ ，N指的是样本数

量，m是迭代次数， $I(G_{m}(x))$ 是弱分类器判断结果

3）计算弱分类器权重 $\alpha =\frac{1}{2}ln(\frac{1-\epsilon }{\epsilon })$ ，根据 $\alpha$ 求得该次 $G_{m}(x)$ 权重改变， $w_{m+1,i}=\frac{w_{m,i}}{z_{m}}e^{-\alpha _{m}y_{i}G_{m}(x_{i})}$ ，其中