- 博客(5)
- 收藏
- 关注
RSS订阅原创 Task 10 前向分步算法与梯度提升决策树(GBDT)
(1) 加法模型：在Adaboost模型中，我们把每个基本分类器合成一个复杂分类器的方法是每个基本分类器的加权和它的基本思路是：因为学习的是加法模型，如果从前向后，每一步只优化一个基函数及其系数，逐步逼近目标函数，那么就可以降低优化的复杂度。具体而言，每一步只需要优化：GBDT 算法由多棵决策树组成，所有树的结论累加起来做最终答案。提升树是迭代多棵回归树来共同决策。当采用平方误差损失函数时，每一棵回归树学习的是之前所有树的结论和残差，拟合得到一个当前的残差回归树，残差的意义如公式：残差 = 真实值
2021-04-23 21:30:52
96
原创 Task 09 Boosting
Boosting与Bagging有着截然不同的思想。Boosting方法是使用同一组数据集进行反复学习，得到一系列简单模型，然后组合这些模型构成一个预测性能十分强大的机器学习模型。Boosting思想是通过不断减少偏差的形式Bagging主要通过降低方差的方式减少预测误差Boosting两类常用方法：Adaptive Boosting 和 Gradient Boosting 以及它们的变体Xgboost、LightGBM以 及Catboost。Boosting方法的基本思路两个概念弱学习
2021-04-20 20:26:53
108
原创 2021-04-17
Task 08 Bagging的原理和案例分析与投票法不同的是，Bagging不仅仅集成模型最后的预测结果，同时采用一定策略来影响基模型训练，保证基模型可以服从一定的假设。此时不再希望各个模型之间具有较大的差异性，在实际操作中的模型却往往是同质的，因此一个简单的思路是通过不同的采样增加模型的差异性。自助采样(bootstrap)Bagging的核心在于自助采样(bootstrap)这一概念，即有放回的从数据集中进行采样，也就是说，同样的一个样本可能被多次进行采样。首先我们随机取出一个样本放入采样集合中
2021-04-17 19:52:30
64
原创 Task 07 投票法的原理和案例分析
Task 07 投票法的原理和案例分析投票法在实际中一个应用的例子在航空航天领域，每个零件发出的电信号都对航空器的成功发射起到重要作用。如果我们有一个二进制形式的信号：11101100100111001011011011011在传输过程中第二位发生了翻转10101100100111001011011011011这导致的结果可能是致命的。一个常用的纠错方法是重复多次发送数据，并以少数服从多数的方法确定正确的传输数据。一般情况下，错误总是发生在局部，因此融合多个数据是降低误差的一个好方法，这就是投
2021-04-14 14:09:49
160
原创 Mac上搭建chromedriver的错误解决方法
在selenium中使用webdriver.Chrome()遇到的问题解决方法：1.下载chromedriver淘宝镜像2.找到自己Google Chrome对应的版本查看版本方法如果版本下载错误会出现这样的报错：Message: session not created: This version of ChromeDriver only supports Chrome version 87 …重新下载之前要删除之前的下载的版本3.修改路径我的zip下载是在downloads文件中*
2020-10-28 11:55:02
453
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人