20240324-1-集成学习面试题EnsembleLearning

集成学习面试题

1. 什么是集成学习算法？

集成学习算法是一种优化手段或者策略，将多个较弱的模型集成模型组，一般的弱分类器可以是决策树，SVM，KNN等构成。其中的模型可以单独进行训练，并且它们的预测能以某种方式结合起来去做出一个总体预测。

2. 集成学习主要有哪几种框架？

集成学习从集成思想的架构分为Bagging，Boosting，Stacking三种。

3. 简单介绍一下bagging，常用bagging算法有哪些？

• Bagging

  • 多次采样，训练多个分类器，集体投票，旨在减小方差，

• 基于数据随机重抽样的分类器构建方法。从训练集中进行子抽样组成每个基模型所需要的子训练集，对所有基模型预测的结果进行综合产生最终的预测结果。

• 算法流程：

  • 输入为样本集$D=(x_1，y_1)，(x_2，y_2)$