集成算法会考虑多个评估器的建模结果,汇总之后得到一个综合的结果, 以此来获取比单个模型更好的回归或 分类表现 。 多个模型集成成为的模型叫做集成评估器( ensemble estimator),组成集成评估器的每个模型都叫做基评估器 ( base estimator )。通常来说,有三类集成算法:装袋法( Bagging ),提升法( Boosting )和 stacking 。