在看GBDT的时候,会迷茫,怎么又是沿损失函数梯度反方向下降,又是沿残差下降,后来看了《统计学习方法》,明白了:对于一般的损失函数的话,就是沿损失函数的梯度反方向下降,如果对于损失函数是MSE这种情况,刚好梯度反方向是残差。等于说残差是特例!
GBDT的感悟
最新推荐文章于 2024-09-07 18:59:08 发布
在看GBDT的时候,会迷茫,怎么又是沿损失函数梯度反方向下降,又是沿残差下降,后来看了《统计学习方法》,明白了:对于一般的损失函数的话,就是沿损失函数的梯度反方向下降,如果对于损失函数是MSE这种情况,刚好梯度反方向是残差。等于说残差是特例!