鞍点介绍

鞍点定义

一个不是局部最小值的驻点（一阶导数为0的点）称为鞍点。

直观上看：目标函数在该点上的梯度（一阶导数）值为 0， 但从改点出发的一个方向（x或y方向）是函数的极大值点，而在另一个方向（y或x方向）是函数的极小值点。

从公式来说就是

鞍点充分条件 

判断鞍点的一个充分条件是：函数在一阶导数为零处（驻点）的黑塞矩阵为不定矩阵。

不定矩阵

半正定矩阵： 所有特征值为非负。

半负定矩阵：所有特征值为非正。

不定矩阵：特征值有正有负。

例子

下面对函数  的驻点(0,0)判断是否为鞍点。函数图像如下

 该函数在驻点（0，0，0）处的 Hessian 矩阵形式为,容易解出特征值一个为2,一个为-2（有正有负），显然是不定矩阵，所以该点是鞍点

参考

【最优化】鞍点介绍 - 知乎 (zhihu.com)