模型融合集成学习 -- 028​

内容目录

一、模型融合简介1、用模型融合算法的原因2、模型融合基础算法二、模型融合经典算法Bagging和Boosting的1、Bagging2、Boosting3、Bagging，Boosting二者之间的区别4、Rand forest与bagging的区别

一、模型融合简介

1、用模型融合算法的原因

  它不是具体的指某一个算法，而是一种把多个弱模型融合合并在一起变成一个强模型的思想,也称为集成学习(Ensemble Learning)：

　　1、单个模型容易过拟合，多个模型融合可以提高范化能力
　　2、单个模型预测能力不高，多个模型往往能提高预测能力
　　3、对于数据集过大或过小，可以分别进行划分和有放回的操作，产生不同的数据子集，然后通过数据子集训练不同的分类模型，最终合并成一个大的分类器
　　4、对于多个异构的特征集的时候，很难进行融合，可以考虑每个数据集构建一个分类模型，然后将多个模型融合
　　5、模型融合算法成功的关键在于能保证弱分类器（弱模型）的多样性，融合不稳定的学习算法能得到更明显的性能提升