题目:二次规划基础:二次型、正定矩阵、海塞矩阵
学习二次规划时,需要知道一些基础知识方能看懂,二次型、正定矩阵和半正定矩阵是绕不开的概念,海塞矩阵也是经常要用的名词,所以本篇首先学习一下这三个概念。
1、二次型(文献【1】第127-128页)
主对角线上的元素分别为x2,y2,z2的系数(分别为1,0,3),第1行第2列和第2行第1列两个元素相等,均为xy系数的一半(=-2),第1行第3列和第3行第1列两元素相等,均为xz系数的一半(=0),第2行第3列和第3行第2列两元素相等,均为yz系数的一半(=1/2)。
2、正定矩阵(Positive Definite Matrix)(文献【1】第133页)
正定矩阵一定是非奇异的,如何判断对称阵是正定的呢?
如果将正定矩阵的条件xTAx > 0弱化为xTAx≥ 0,则称对称阵A是半定正的。
3、海塞矩阵(HesseMatrix)(文献【2】)
Hesse矩阵最早于19世纪由德国数学家LudwigOtto Hesse提出,并以其名字命名。Hesse矩阵常用于牛顿法解决优化问题。
Hesse矩阵的定义如下:
如果函数f是连续的,则它的Hesse矩阵一定是对称阵:
得到函数f的Hesse矩阵有什么用呢?Hesse可以用于多元函数极值的判定。
下面给两个求Hesse矩阵的例子(文献【3】):
第一个例子:
第二个例子:
参考文献:
【1】同济大学数学系 编. 工程数学线性代数[M]. 5版.高等教育出版社,2007.
【2】Cqbmax. 黑塞矩阵,百度百科,2015-12-18.
【3】春天的下一季. 方向导数与梯度黑塞矩阵与泰勒公式,百度文库,2015-03-24.