梯度和方向导数

最新推荐文章于 2024-07-29 19:00:33 发布

LB_莫贺延碛

最新推荐文章于 2024-07-29 19:00:33 发布

阅读量4.1k

点赞数

分类专栏：机器学习数学

机器学习同时被 2 个专栏收录

10 篇文章 0 订阅

订阅专栏

数学

9 篇文章 0 订阅

订阅专栏

梯度和方向导数的概念在 ML和数字图像处理中有着广泛的应用，但每次看了之后又很容易忘记，转一篇文章记录下

转载出处：http://blog.163.com/cindy_19810217/blog/static/201059118201111169320477/

1. 梯度：为了标记两个一阶偏导数，而取的一个特殊名称。

函数f(x, y)的梯度定义为： $\bigtriangledown f=(\frac{\delta f}{\delta x}, \frac{\delta f}{\delta y})$ ， $\frac{\delta f}{\delta x}$ 和 $\frac{\delta f}{\delta y}$ 分别是x和y方向上的切线斜率。

如何求其他方向上的斜率呢？

2 . 方向导数：

首先在xoy平面上取一个单位向量 $\mu =(u_{1},u_{2})$ ，指向平面上任何一个方向，我们把函数f在u所指的方向上的变化率，定义为方向导数，用 $D_{u}f$ 来表示。换句话说， $D_{u}f$ 就是在包含u的垂直平面上的那条切线的斜率。

$http://latex.codecogs.com/gif.latex?D_{u}f=\bigtriangledown%20f\cdot%20u=(\frac{\delta%20f}{\delta%20x},%20\frac{\delta%20f}{\delta%20y})(u_{1},u_{2})=\frac{\delta%20f}{\delta%20x}u_{1}+\frac{\delta%20f}{\delta%20y}u_{2}$

注意：这里的 $\mu =(u_{1},u_{2})$ 是只有方向的单元向量，这样才能用点积这么算。

此公式的极限含义：

$\lim_{t->0}\frac{f(x+tu_{1}, y+tu_{2})-f(x,y)}{t}$

3. 梯度与方向导数的关系：

我们要寻找使方向导数 $D_{u}f$ 最大的单位向量u,此时切线斜率是最大的。根据点积计算公式，当u与 $\bigtriangledown f$ 的夹角为0度时， $D_{u}f$ 为最大值。因此方向导数的最大值就是顺着 $\bigtriangledown f$ 方向。此时有 :

$D_{u}f=|\bigtriangledown f|$

LB_莫贺延碛

关注

0
点赞
踩
2

收藏

觉得还不错? 一键收藏
0
评论
梯度和方向导数

梯度和方向导数的概念在 ML和数字图像处理中有着广泛的应用，但每次看了之后又很容易忘记，转一篇文章记录下转载出处：http://blog.163.com/cindy_19810217/blog/static/201059118201111169320477/1. 梯度：为了标记两个一阶偏导数，而取的一个特殊名称。函数f(x, y)的梯度定义为：，和分别是x和y方向上的切线斜率。
复制链接

扫一扫

专栏目录