(摘)导数、偏导数、方向导数、梯度、梯度下降概念和解释
前言机器学习中的大部分问题都是优化问题,而绝大部分优化问题都可以使用梯度下降法处理,那么搞懂什么是梯度,什么是梯度下降法就非常重要!这是基础中的基础,也是必须掌握的概念! 提到梯度,就必须从导数(derivative)、偏导数(partial derivative)和方向导数(directional derivative)讲起,弄清楚这些概念,才能够正确理解为什么在优化问题中使用梯度下降法来优化目标函数,并熟练掌握梯度下降法(Gradient Descent)。本文主要记录我在学习机器学习过程中对梯度
原创
2021-03-08 19:00:01 ·
3370 阅读 ·
0 评论