(1)提升算法(Boosting)是常用的有效的统计学习算法,属于迭代算法,它通过不断地使用一个弱学习器弥补前一个弱学习器的“不足”的过程,来串行地构造一个较强的学习器,这个强学习器能够使目标函数值足够小。
(2)Bagging也是一种常用的统计学习方法,两者经常放在一起对比,它们不同的是,Bagging将在Bootstrap采样得到的不同训练子集上的弱学习器的结果综合考虑,各个弱学习器的构建过程是并行的(分类器的权重相等)。而Boosting是通过串行地不断迭加弱学习器形成一个强学习器,是学习模型的提升过程。此外,Boosting迭代在降低训练误差的同时,使模型预测的确信度(margin)不断提高,是它获得较好泛化能力的主要原因,而Bagging主要是通过平均来降低模型的方差(variation).
(3)AdaBoost是Adaptive Boost的缩写,Boosting是不断使用后一个弱分类器弥补前一个弱分类器的不足的过程,在AdaBoosting中“不足”是指被前一个弱学习器误分类的点,在下一次分类中被赋予更大的权重。与其他的Boosting实现不同的是这种算法可以适应各弱分类模型各自的训练误差。