机器学习算法（六）——集成学习二 之AdaBoost 算法

Boosting族算法最著名的代表是AdaBoost算法。

AdaBoot算法两个核心步骤：

每一轮中如何改变训练数据的权值？

AdaBoost算法提高那些被前一轮弱分类器错误分类样本的权值，而降低那些被正确分类样本的权值。

于是那些没有得到正确分类的数据由于权值的加大而受到后一轮的弱分类器的更大关注。

最后如何将一系列弱分类器组合成一个强分类器？

AdaBoost 采用加权多数表决的方法：

加大分类误差率较小的弱分类器的权值，使得它在表决中起较大作用。
减小分类误差率较大的弱分类器的权值，使得它在表决中起较小的作用。

一、算法