集成学习
文章平均质量分 82
InveR1el
这个作者很懒,什么都没留下…
展开
-
Datawhale开源教程学习——集成学习(task7 Stacking和案例一)
目录Task07 Stacking和案例一Blending和StackingTask07 Stacking和案例一Blending和StackingBlending将数据划分为训练集和测试集(test_set),其中训练集需要再次划分为训练集(train_set)和验证集(val_set);创建第一层的多个模型,这些模型可以使同质的也可以是异质的;使用train_set训练步骤2中的多个模型,然后用训练好的模型预测val_set和test_set得到val_predict, test_pred原创 2021-07-29 00:43:02 · 160 阅读 · 0 评论 -
Datawhale开源教程学习——集成学习(task6 Boosting)
目录Task06 BoostingQ1: Adaboost的基本思路?Q2:Adaboost与GBDT的联系和区别?Q3: Boosting与Bagging的区别,以及如何提升模型的精度?Task06 BoostingQ1: Adaboost的基本思路?A1:在提到Adaboost之前,先稍微解释一下Boosting。Boosting可以理解为不断地重复学习达到最终的要求。在学习中,如果已经发现了弱可学习算法,能否将他提升至强可学习算法。因为,弱可学习算法比强可学习算法容易得多。提升方法就是从弱学习原创 2021-07-26 00:35:48 · 171 阅读 · 0 评论 -
Datawhale开源教程学习——集成学习(task5 Bagging)
目录Task05 BaggingQ1:什么是bootstraps?Q2:bootstraps和bagging的联系。Q3:什么是bagging?Task05 Bagging集成学习(模型融合中的一个分类)主要包括:BaggingBoostingStackingBagging由booststraps演变而来;Boosting类似叠加式算法;Stacking把模型分为模型一和模型二,把模型一的结果当做特征送入模型二做训练。目的都是将弱分类器变成强分类器。Q1:什么是bootstraps?原创 2021-07-23 00:14:10 · 181 阅读 · 1 评论 -
Datawhale开源教程学习——集成学习(task4分类问题)
目录Task04 分类问题度量分类的指标1、混淆矩阵准确率(Accuracy):分类正确的样本数占总样本的比例(==真阳性和真阴性占总样本比例==),即:ACC=TP+TNFP+FN+TP+TNACC = \frac{TP+TN}{FP+FN+TP+TN}ACC=FP+FN+TP+TNTP+TN.精度(Precision):预测为正且分类正确的样本占预测值为正的比例(==真阳性占预测为阳性的比例==),即:PRE=TPTP+FPPRE = \frac{TP}{TP+FP}PRE=TP+FPTP.召回率(原创 2021-07-21 00:27:46 · 410 阅读 · 0 评论 -
Datawhale开源教程学习——集成学习(task3偏差和方差理论)
目录Task03 偏差和方差理论Q1:用一个具体的案例解释什么是偏差和方差?Q2:偏差与方差和误差之间的关系。Q3:训练误差与测试误差之间的联系和区别,如何估计测试误差?Q8:用sklearn,对一组数据进行特征简化(三种方式),再使用回归模型,最后用网格搜索调参,观察三种方法的优劣。Task03 偏差和方差理论均方误差的概念:即:MSE=1N∑i=1N(yi−f^(xi))2MSE = \frac{1}{N}\sum\limits_{i=1}^{N}(y_i -\hat{ f}(x_i))^2MSE=原创 2021-07-19 00:23:14 · 183 阅读 · 2 评论 -
Datawhale开源教程学习——集成学习(task2机器学习基础模型)
目录Task02 机器学习基础模型一、导论使用sklearn构建完整的机器学习项目流程二、作业Q1:详细阐述线性回归模型的最小二乘法表达。Q2:在线性回归模型中,极大似然估计与最小二乘估计有什么联系与区别。Q3:为什么多项式回归在在实际问题中的表现不是很好?Q4:决策树模型与线性模型之间的区别和联系?Q7:找一个数据集,使用线性回归模型拟合数据,要求不使用sklearn,只使用python和numpy。Task02 机器学习基础模型一、导论机器学习的一个重要的目标就是利用数学模型来理解数据,发现数据中原创 2021-07-16 00:36:58 · 340 阅读 · 0 评论 -
Datawhale开源教程学习——集成学习(task1数学基础)
目录Task01 数学基础一、实验问题二、尝试解答1.绘图2.求全局最小值和相应的最小解Task01 数学基础一、实验问题二、尝试解答1.绘图首先用matplotlib包绘制出Rosenbrock函数尝试改变a,b的取值当a = 1, b = 0时,图像右半边部分会向下缩当继续增大a的值a = 2, b = 0时,可以发现右半边图像继续向下。当继续增大a的值a = 10, b = 0时,如图所示。将a的值改为-10,b依旧保持0,如图所示。接下来改变b的值a = 0 ,原创 2021-07-14 00:14:55 · 204 阅读 · 0 评论