最优化理论基础与应用——多元函数分析

梯度

Hesse矩阵

Jacobi矩阵

梯度：
对于一个n元函数f(x)，如果它对自变量的各个分量的偏导数都存在，那么则称由该函数对自变量的各个分量的偏导数组成的向量为函数f(x)在x处的一阶导数，或者是梯度。记作g(x) = ▽f(x).

Hesse矩阵：
梯度是一个n元函数，自变量是一个n维列向量，把一个函数的梯度的各个分量对其自变量各个分量求偏导数，得到一个n*n的方阵，这个方阵我们叫做Hesse矩阵。

Jacobi矩阵：
一个向量函数，它的自变量的各个分量对该分量的自变量求偏导数，得到的二阶矩阵称为Jacobi矩阵。