集成学习
文章平均质量分 83
XF永不007
这个作者很懒,什么都没留下…
展开
-
集成学习(三)Bagging
集成学习(三)Bagging 投票法的原理分析 投票法是一种遵循少数服从多数原则的集成学习模型,通过多个模型的集成降低方差,从而提高模型的鲁棒性。在理想情况下,投票法的预测效果应当优于任何一个基模型的预测效果。 投票法在回归模型与分类模型上均可使用: 回归投票法:预测结果是所有模型预测结果的平均值。 分类投票法:预测结果是所有模型种出现最多的预测结果。 分类投票法又可以被划分为硬投票与软投票: 硬投票:预测结果是所有投票结果最多出现的类。 软投票:预测结果是所有投票结果中概率加和最大的..原创 2021-08-26 10:03:17 · 371 阅读 · 0 评论 -
集成学习(二)机器学习基础
集成学习(二)机器学习基础 文章目录集成学习(二)机器学习基础1 机器学习简介2. 使用sklearn构建完整的机器学习项目流程(1) 收集数据集并选择合适的特征(2) 选择度量模型性能的指标(3) 选择具体的模型并进行训线性回归模型(a) 最小二乘估计(b) 几何解释(c)概率视角线性回归的推广(a) 多项式回归(b) 广义可加模型(GAM)GAM模型的优点与不足回归树树模型的优缺点支持向量机回归(SVR)(4) 优化基础模型(a) 训练均方误差与测试均方误差(b) 偏差-方差的权衡( c) 特征提取训原创 2021-08-18 19:41:50 · 221 阅读 · 0 评论 -
集成学习(一):数学基础(高数)
集成学习(一):数学基础(高数) 在机器学习的有监督学习算法中,我们的目标是学习出一个稳定的且在各个方面表现都较好的模型,但实际情况往往不这么理想,有时我们只能得到多个有偏好的模型(弱监督模型,在某些方面表现的比较好)。集成学习就是组合这里的多个弱监督模型以期得到一个更好更全面的强监督模型,集成学习潜在的思想是即便某一个弱分类器得到了错误的预测,其他的弱分类器也可以将错误纠正回来。 本次学习将介绍集成学习的相关知识,从零开始逐步递进。首先是关于数学基础部分的知识介绍,用到的数学基础主要包括高等数学,线性原创 2021-08-17 11:56:43 · 275 阅读 · 0 评论