方向导数和梯度

*课程上到机器学习，发现一些数学知识不会，随笔记下。作为数二的专硕，考研没考的概率论、高数下册那些东西现在全得补回来。呜呜呜~~~~~*

1.方向导数

方向导数的本质是一个数值，简单来说其定义为：

一个函数沿指定方向的变化率。

2.梯度

梯度与方向导数是有本质区别的，梯度其实是一个向量，其定义为：

一个函数对于其自变量分别求偏导数，这些偏导数所组成的向量就是函数的梯度。

在很多资料中可以看到如下的梯度定义方法：

这里是二维的定义，高维的可以推广。

3.梯度与方向导数的关系

梯度与方向导数的关系应该如何描述呢？

函数在某点的梯度是这样一个向量，它的方向与取得最大方向导数的方向一致，而它的模为方向导数的最大值。

以上描述非常好理解，那如何证明呢？
在这里插入图片描述