梯度提升与梯度上升的区别

梯度提升是一种算法，指的是通过一种类似于模型加法的方法，将整个问题的最优解进行提高，对应的英文叫做Gradient Boosting，核心就是BOOST，和集成学习、随机森林这些算法有很大的相似之处。通过boost操作，可以在单个模型达到一定准确度上限时对结果进一步提升，一般的竞赛中都会用到。

梯度上升与梯度下降是一样的，只不过优化的是目标函数的最大值，梯度下降优化的是最小值。实际上梯度上升与梯度下降是一样的，有时候反映到公式中就是一个负号的问题。

在一般神经网络解决分类或者回归问题时，采用的都是梯度下降；在强化学习策略梯度定理中，采用的是梯度上升。但是实际上两者是一样的。