机器学习高级算法
orient928
这个作者很懒,什么都没留下…
展开
-
高级算法(1)——随机森林
写在前面:由于想在暑期实习之前多学点东西,所以贪心基本上把Datawhale感兴趣的班都给报了,导致现在压力贼大,所以本文很多复杂公式就用图片代替了,另外也没有真正打代码,等后期课程轻松一点以后再把代码那部分补上。集成学习这一块我之前也稍微总结过,所以这一块也不全是按照群里给的框架写的,请见谅。文章目录一.集成学习1.定义:2.作用:3.基学习器4. 两类集成学习4.1 Boosting4.2...原创 2019-04-04 20:05:46 · 705 阅读 · 0 评论 -
高级算法(3)——XGBoost
文章目录1. 算法原理2. 损失函数3.分裂结点算法4.正则化5.对缺失值的处理6.优缺点6.1优点:6.2缺点:7.应用场景1. 算法原理XGBoost是boosting算法的其中一种。Boosting算法的思想是将许多弱分类器集成在一起形成一个强分类器。因为XGBoost是一种提升树模型,所以它是将许多树模型集成在一起,形成一个很强的分类器。而所用到的树模型则是CART回归树模型.XG...原创 2019-04-10 21:58:59 · 495 阅读 · 0 评论 -
高级算法(2)
写在前面:由于时间原因这次就是按照助教给的框架来写的,并不是完全按照自己的理解来的,后期有时间可能会按照自己的框架重新梳理一遍 GBDT。文章目录一. 前向分布算法二. 负梯度拟合三.损失函数3.1 分类算法3.2 回归算法四. 回归五. 二分类,多分类六. 正则化七. 优缺点7.1 优点7.2 缺点八.应用场景一. 前向分布算法从前向后,每一步只学习一个基函数及其系数,逐步逼近上式,即...原创 2019-04-07 20:34:34 · 546 阅读 · 0 评论