gbdt算法

机器学习中的算法(1)-决策树模型组合之随机森林与GBDT

http://www.cnblogs.com/leftnoteasy/archive/2011/03/07/random-forest-and-gbdt.html

解决多分类回归问题。算法框架使用logistic函数表示每个类别的概率，每次新增的树都是对梯度方向进行回归。参数更新时，会对梯度进行放大。

【原创】GBDT（MART） 迭代决策树入门教程 | 简介

http://hi.baidu.com/hehehehello/item/96cc42e45c16e7265a2d64ee

gbdt有两个版本，一种是拟合残差，一种是拟合残差的导数。第一种是数值的回归，第二种是多分类结果的回归。

拟合残差的导数方法，leftnoteasy的博客里有介绍，使用logistic函数框架来表示多分类，最后得到的是属于某个类别的概率。