二次型，正定二次型

最新推荐文章于 2024-07-23 18:37:55 发布

geter_CS

最新推荐文章于 2024-07-23 18:37:55 发布

阅读量3.3k

点赞数 3

分类专栏：深度学习机器学习文章标签：二次型正定二次型二次型导数

本文链接：https://blog.csdn.net/geter_CS/article/details/85135575

版权

深度学习同时被 2 个专栏收录

23 篇文章 4 订阅

订阅专栏

机器学习

21 篇文章 3 订阅

订阅专栏

二次型：含有n个变量 $x_1,x_2,...x_n$ 的二次齐次函数:
$f(x_1,x_2,...x_n)=a_{11}x_1^2+a_{12}x_1x_2+a_{13}x_1x_3+a_{14}x_1x_4...+a_{1n}x_1x_n$
　　　　　　　　 $a_{21}x_2x_1+a_{22}x_2^2+a_{23}x_1x_3+a_{24}x_2x_4...+a_{2n}x_2x_n$
　　　　　　　　…
　　　　　　　　 $a_{n1}x_nx_1+a_{n2}x_nx_2+a_{n3}x_nx_3+a_{n4}x_nx_4...+a_{nn}x_n^2$
称为二次型。二次型可以用矩阵表示记作：
$f=X^TAX$
其中 $X=\begin{bmatrix} x_1\\ x_2\\ ...\\x_n \end{bmatrix}$ ， $A=\begin{bmatrix} a_{11}&a_{12}&...&a_{1n}\\ a_{21}&a_{22}&...&a_{2n}\\ ...\\a_{n1}&a_{n2}&...&a_{nn} \end{bmatrix}$ ，可以通过先计算 $A X$ ，再计算 $X^TAX$ 来证明：
$AX=\begin{bmatrix} a_{11}x_1+a_{12}x_2+...+a_{1n}x_n\\ a_{21}x_1+a_{22}x_2+...+a_{2n}x_n\\ ...\\a_{n1}x_1+a_{n2}x_2+...+a_{nn}x_n \end{bmatrix}$ 在左乘 $X^T$ 得到原式：
$\begin{bmatrix} x_1\\ x_2\\ ...\\x_n \end{bmatrix}\begin{bmatrix} a_{11}x_1+a_{12}x_2+...+a_{1n}x_n\\ a_{21}x_1+a_{22}x_2+...+a_{2n}x_n\\ ...\\a_{n1}x_1+a_{n2}x_2+...+a_{nn}x_n \end{bmatrix}$
我们来求一下二次型的导数：
$\frac{df(x_1,x_2,...x_n)}{dx_1}=2a_{11}x_1+a_{12}x_2+a_{13}x_3+a_{14}x_4...+a_{1n}x_n$
　　　　　　　　 $a_{21}x_2+0+0+0...+0$
　　　　　　　　…
　　　　　　　　 $a_{n1}x_n+0+0+0...+0$
$2a_{11}x_1+(a_{12}+a_{21})x_2+(a_{13}+a_{31})x_3+(a_{14}+a_{41})x_4...+(a_{1n}+a_{n1})x_n$ ，其余的还有对 $x_1,x_2...x_n$ 的求导。
正定二次型：设二次型 $f=X^TAX$ ，如果对任何 $X\neq0$ ，都有 $f (X) > 0$ ，则称 $f$ 为正定二次型，并称对称矩阵 $A$ 是正定的。
由于 $A$ 是对称矩阵，所以其导数为：
$\frac{df(x_1,x_2,...x_n)}{dx_1}=2a_{11}x_1+2a_{12}x_2+2a_{13}x_3+2a_{14}x_4...+2a_{1n}x_n$
$\frac{df(x_1,x_2,...x_n)}{dx_2}=2a_{21}x_1+2a_{22}x_2+2a_{23}x_3+2a_{24}x_4...+2a_{2n}x_n$
$. . . .$
所以 $\bigtriangledown f(X)=2AX$
举个例子：
在这里插入图片描述
其对其求导可得矩阵：
$\bigtriangledown f(X)=\begin{bmatrix} 2x-4y\\ -4x+z\\ ...\\-6z+y \end{bmatrix}$