Hessian矩阵

1，Hessian 矩阵定义

Hessian矩阵即二阶偏导数矩阵，已知一个函数f(x1,x2,…,xn)，如果所有的二阶导数都存在，那么f的Hessian矩阵定义为

2，Hessian矩阵性质

2.1 对称性

3， Hessian矩阵的应用

3.1 判断函数有没有最小值

Hessian矩阵正定是函数存在最小值的充分条件。

3.1.1 知识点补充：判断矩阵是正定还是负定

1.看特征值

·矩阵是负定的充要条件是各个特征值均为负数。

·矩阵是正定的充要条件是各个特征值均为正数。

2.计算各阶主子式

·如果矩阵的各阶主子式都大于零，那么该矩阵是正定的。

·如果矩阵的所有奇数阶主子式为负，偶数阶主子式为正，那么该矩阵是负定的。

3.2 判定局部极小值

已知一个点x0，那么怎么判断这个点是不是极值点呢？

如果在x0点上，Hessisan矩阵是负定的，且各分量的一阶偏导数为0，则x0为极大值点。

如果在x0点上，hessisan矩阵是正定的，且各分量的一阶偏导数为0，则x0为极小值点。