这篇博客通过一个简单的例子介绍了GBDT中的回归树。首先，解释了如何使用自变量x来预测y的值，通过数据划分和计算均方误差来确定最优划分点。接着，展示了以不同点为划分依据时，预测误差的变化，并最终得出以5.5为最优划分点。文章总结了回归树的基本思想：根据特征取值不断二分特征空间，用每个空间内样本的平均值作为预测值。最后预告下一篇文章将深入讨论GBDT。
GBDT无公式实例解析（1）——回归树
GBDT中的DT使用的是回归树，因此在介绍GBDT之前必须要先了解一下什么是回归树。
下面都以下面这个简单的例子来介绍，通过自变量 x 来预测 y 的值。
数据
| x | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 |
|---|---|---|---|---|---|---|---|---|---|---|
| y | 4.50 | 4.75 | 4.91 | 5.34 | 5.80 | 7.05 | 7.90 | 8.23 | 8.70 | 9.00 |
根据 x 的取值将数据划分为两组。
例如划分点为 1.5，x 值小于 1.5 的为一组，大于 1.5 的为另一组。那么数据将被划分为两组，一组是 {1}, 另一组为 {2,3,4,…,10}
将每一组数据 y 的平均值作为这一组的预测值
那么第一组的预测值为 4.50
第二组预测值为
1/9 *(4.75+4.91+5.34+5.80+7.05+7.90+8.23+8.70+9.00)
| x | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 |
|---|---|---|---|---|---|---|---|---|---|---|
| y | 4.50 | 4.75 |
最低0.47元/天 解锁文章
8万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
