matlab中共轭梯度法求二元二次函数最小值_梯度、散度、旋度与矢量分析

矢量分析在场论中非常重要，而三个基本算子（梯度、散度与旋度）又是构成各种复杂关系式的基础，下面逐一介绍，应特别注意散度与旋度的基本定义。对于矢量恒等式，在此列出是为了使用时查找方便，具体推导利用张量表示易得。

1.梯度(Gradient)

梯度在数值计算中有着非常广泛的应用，如共轭梯度法，梯度下降法与梯度上升法等，在三维直角坐标系中，某个场

的梯度定义为：

梯度物理意义为：在某个场中，某点的某物理参数增加最快的方向，梯度大小就是增加率。举个例子，我们站在山脚爬山时（此山只有一个山峰），我们迈步第一步的方向有无数个，若想走最短路程到达山顶，此时应沿梯度方向迈出，以此类推，直至到达山顶。从此爬山过程易得，若某点梯度为

，那这个点一定是极值点（极大或极小）。因此，梯度在最优化理论中发挥着重要作用，如利用梯度下降法(gradient descent)寻找某个函数的最小值。若该函数为凸函数，能很容易地找到一个全局最小值，否则易陷入局部极小值，如下图所示：

图片来源：https://www.mltut.com/stochastic-gradient-descent-a-super-easy-complete-guide/

除了标量场具有梯度，矢量场也具有梯度。矢量场的梯度将这个矢量线性映射到了另一个矢量，因此对矢量场的梯度是一个张量。在直角坐标系中，若存在矢量场

：

,

则该矢量场的梯度为：

2.散度(Divergence)

散度与通量相关，其在电磁学中有着非常广泛的应用，矢量场

在

处的散度定义为：

其中，体积V为包含点