集成学习
文章平均质量分 77
梦想家wmx
这个作者很懒,什么都没留下…
展开
-
集成学习之模型超参数调优
集成学习之模型超参数调优 首先感谢Datawhale提供的学习机会。 第一我们要明白什么是参数什么是超参数。 参数与超参数: 岭回归中的参数a和参数w之间有什么不一样?事实上,参数w是我们通过设定某一个具体的 后使用类似于最小二乘法、梯度下降法等方式优化出来的,我们总是设定了是多少后才优化出来的参数w。因此,类似于参数w一样,使用最小二乘法或者梯度下降法等最优化算法优化出来的数我们称为参数,类似于a一样,我们无法使用最小二乘法或者梯度下降法等最优化算法优化出来的数我们称为超参数。 模型参数是模型内部的配置变原创 2021-03-24 20:59:12 · 437 阅读 · 0 评论 -
集成学习之优化基础模型
集成学习之优化基础模型 在回归问题中,我们常用训练集去估计模型的参数,然后用测试集去预测。我们常会遇到的问题就是模型在训练集上的表现很好,但是在测试集上的表现却一般。我们所希望的是测试集与训练集的表现相近,或者说训练集优于测试集,这样我们所作的工作才是有意义的,我们可以从以下几个角度去考虑: 1.训练均方误差与测试均方误差: 在回归中,我们最常用的评价指标为均方误差,即:,其中是样本 Xi应用建立的模型f预测的结果。如果我们所用的数据是训练集上的数据,那么这个 误差为训练均方误差,如果我们使用测试集的数据计原创 2021-03-22 10:53:03 · 318 阅读 · 0 评论 -
2021-03-18
集成学习之基本回归方法 文章内容来源于 datawhale 通常来说,一个完整的机器学习项目应分为如下步骤: (1)明确自己的任务是回归还是分类。 (2)收集数据集,选择合适的特征。 (3)选择度量模型性能的指标。 (4)选择项目的模型并进行训练优化模型。 (5)评估模型的性能并调参。 Sklearn构建的完整回归项目 (1)收集数据集并选择合适的特征: 用sklearn中的boston房价数据集 from sklearn import datasets boston = datasets.load_bo原创 2021-03-18 17:02:25 · 133 阅读 · 0 评论 -
集成学习
机器学习之集成学习 感谢Datawhale提供的学习机会。 1.导论 首先集成学习是机器学习里面的概念,所以我们要先了解一下机器学习。什么是机器学习?机器学习的一个重要的目标就是利用数学模型来理解数据,发现数据中的规律,用 作数据的分析和预测。数据通常由一组向量组成,这组向量中的每个向量都是一个样本,我们用????????来表示一个样本,其中???? = 1, 2, 3, . . . , ????,共N个样本,每个样本???????? = (????????1, ????????2, . . . , ???原创 2021-03-15 15:25:25 · 110 阅读 · 0 评论