持续更新…
文章目录
XgBoost算法
XgBoost是Boosting算法的其中一种,Boosting算法的思想是将许多弱分类器集成在一起,形成一个强分类器。因为XgBoost是一种提升树模型,所以它是将许多树模型集成在一起,形成一个很强的分类器,所用到的树模型是CART回归树模型。也就是XgBoost是由很多CART树集成。
什么是CART树呢?
数据挖掘或机器学习中使用的决策树主要有两种类型:
- 分类树分析是指预测结果是数据所属的类
- 回归树分析是指预测结果可以是实数
而术语分类回归树(CART, Classification And Regression Tree)分析是用于指代上述两种树的总称,由Breiman等人首先提出。
XgBoost是在GBDT的基础上进行改进,使之更强大,适用于更大范围。
还有一个想要学习的是GPT-2, GPT-3
参见博客http://jalammar.github.io/