bagging与boosting

Adaboost是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器(弱分类器)，然后将弱分类器集合起来，构成一个更强的最终分类器（强分类器）。

通过调整样本权重和弱分类器权值，从训练出的弱分类器中筛选出权值系数最小的弱分类器组合成一个最终强分类器。

基于训练集训练弱分类器，每次下一个弱分类器都是在样本的不同权值集上训练获得的。

每个样本被分类的难易度决定权重，而分类的难易度是经过前面步骤中的分类器的输出估计得到的。

Bagging和Boosting都是将已有的分类或回归算法通过一定方式组合起来，形成一个性能更加强大的分类器，更准确的说这是一种分类算法的组装方法。即将弱分类器组装成强分类器的方法。

参考：

https://www.jianshu.com/p/80121251009c