正定矩阵相关应用-最值问题

最新推荐文章于 2022-03-07 20:05:47 发布

zhangchenxiang_

最新推荐文章于 2022-03-07 20:05:47 发布

阅读量1.7k

点赞数

分类专栏：数学

本文链接：https://blog.csdn.net/weixin_43956759/article/details/85887641

版权

本文介绍了正定矩阵在解决最值问题中的应用，包括最小原理和Rayleigh商。通过实例解析，展示了正定矩阵如何帮助找到二次型的最小值，并探讨了Rayleigh商与特征值的关系，以及如何利用它们估计特征值的极小极大值。

摘要由CSDN通过智能技术生成

最小原理及Rayleigh商

简介

介绍两个与正定矩阵相关的最值问题。最值问题始终是一个值得研究的问题，确定解的问题不是那么多，最优解更具有普适性。

最小原理

最小原理在物理现象中很常见。重液体一沉到底就是使其势能最小化的结果。这些势能的表达式，正是二次型。研究二次型的最小值问题，是一个常见的求最优解的问题。
如果 $A$ 是标量，则函数
$P(x)=1/2Ax^2-bx$
在 $P^’(x)=Ax-b=0$ 处有极值，当 $A > 0$ 时有最小值。
之所以取这样一个二次型的表达式，就是为了使其一阶导数为 $0$ 的方程为 $A x = b$ .
将其推广到多维：
如果 $A$ 为对称正定矩阵，则二次型 $P(x)=1/2x^TAx-x^Tb$ 在 $A x = b$ 处达到最小值。
证：设 $x$ 为 $A x = b$ 的解。 $y$ 为任意向量，则
$P(y)-P(x)=1/2y^TAy-y^Tb-1/2x^TAx+x^Tb$
$1/2y^TAy-y^Tb-1/2x^TAx+x^TAx$
$1/2y^TAy-y^Tb+1/2x^TAx$
$1/2y^TAy-y^TAx+1/2x^TAx$
$1/2(y-x)^TA(y-x)$
由于 $A$ 是正定矩阵，所以上式只有在 $y = x$ 时取最小值0.所以其最小值位于 $A x = b$ 上。

例子考虑方程组 $A x = b$ 。
$\begin{pmatrix} 2 &-1&0\\-1&2&-1\\0&-1&2 \end{pmatrix}\begin{pmatrix} x_1\\x_2\\x_3 \end{pmatrix}=\begin{pmatrix} 4\\0\\4 \end{pmatrix}$
相应的二次型为：
$P(x_1,x_2,x_3)=1/2x^TAx-x^Tb= 2x_1x_1-x_1x_2-x_2x_1+2x_2x_2-x_2x_3-x_3x_2+2x_3x_3-(4x_1+4x_3)$