eruiwen1624的博客

在刘建平老师的GBDT原理讲解here中,关于多元GBDT分类中负梯度误差的推导

负梯度是输出的偏差(在一定的损失函数下),用回归树去拟合偏差,意味着偏差(有符号的)相同/相近的样本,其对应的输出会修正相同的Δy, 比如x1,x2,x3的y偏差分别是-1,+1,+2,而x4,x5,x6的y偏差分别为+20,+23,+25那么x1,x2,x3对应的y可以进行一样的修正,比如对应的y分别增加 [(-1)+(+1)+(+2)]/3= +0.66666 ,而x4,x5,x6也可以进行一...