MIT 18.06 linear algebra 第二十八讲笔记

MIT 18.06 linear algebra 第二十八讲笔记

---

• Positive Definite Matrix
• Tests for Minimum ($x^TAx>0$)
• Ellipsoids in $R^n$

---

假设正定矩阵$A=\begin{bmatrix}a&b\\b&c\end{bmatrix}$，那么它满足：

1. $\lambda_1>0,\lambda_2>0$.
2. 主元均大于零，$a>0,\frac{ac-b^2}{a}>0$。
3. 子矩阵对应的行列式大于零，$a>0,ac-b^2>0$
4. $x^TAx>0$

---

假设有矩阵$\begin{bmatrix}2&6\\6&18\end{bmatrix}$,它的特征值为$\lambda_1=0,\lambda_2=20$,对于这样特征值均大于等于零（必须要含有零特征）矩阵称之为半正定矩阵。这个矩阵也只有一个主元为非零$pivot_1=2,pivot_2=0$。
对于第四种判定方法，需要任意的$x$与之操作都大于零，那么他就是正定的。$\begin{bmatrix}x_1&x_2\end{bmatrix}\begin{bmatrix}2&6\\6&18\end{bmatrix}\begin{bmatrix}x_1\\x_2\end{bmatrix}=\begin{bmatrix}x_1&x_2\end{bmatrix}\begin{bmatrix}2x_1+6x_2\\6x_1+18x_2\end{bmatrix}=2x_1^2+12x_1x_2+18x_2^2$。这样就可以把一个矩阵写为二次型（quadratic form,没有常数项，也没有三四次项，每项都是二次的。）。前面的等式可以形式化为$ax^2+2bxy+cy^2$,如果对于任意的$x,y$都是大于零那么这个矩阵就是正定矩阵。

当矩阵为$\begin{bmatrix}2&6\\6&20\end{bmatrix}$，$\begin{bmatrix}x_1&x_2\end{bmatrix}\begin{bmatrix}2&6\\6&20\end{bmatrix}\begin{bmatrix}x_1\\x_2\end{bmatrix}=2x_1^2+12x_1x_2+20x_2^2$,这个等式在除$x=0$外，$x^TAx>0$。

$2x_1^2+12x_1x_2+20x_2^2=2(x+3y)^2+2y^2>0,x\neq 0$。矩阵消元的过程$\begin{bmatrix}2&6\\6&20\end{bmatrix}\Rightarrow \begin{bmatrix}2&6\\0&2\end{bmatrix}$。在这个消元过程中$L=\begin{bmatrix}1&0\\3&1\end{bmatrix}$。从前面的内容可以看出，两个主元的大小和配方法外的两个系数是一样的。内部的3和消元的因子是一样的。

例子矩阵$\begin{bmatrix}2&-1&0\\-1&2&-1\\0&-1&2\end{bmatrix}$,它的子矩阵对应的行列式为2,3,4。主元为$2,\frac{3}{2},\frac{4}{3}$。特征值为$2-\sqrt2,2,2+\sqrt2$。$x^TAx=2x_1^2+2x_2^2+2x_3^2-2x_1x_2-2x_2x_3>0$,对于这个方程，如果我们令其等于1，那么这样切出来的结果是一个橄榄球形的三维空间。那么这个橄榄型的主轴方向和主轴大小是由什么决定的呢？

假设$A$为对称矩阵,$x^TAx=x^TQ\Lambda Q^Tx$，令$y=Q^Tx$,那么$x^TAx=y^T\Lambda y=\lambda_1y_1^2+\lambda_2y_2^2+\lambda_3y_3^2=1$,这样就转换成全部关于$y_i$的二次式了。可见椭球的各个轴长是由$\lambda$决定的。由于$y=x^TQ$,那么$x=Qy$,即$x$是关于特征向量的线性组合，因此轴的方向由特征向量决定。假设$Q=\begin{bmatrix}1&0&0\\0&1&0\\0&0&1\end{bmatrix}$,那么$y_1=\sqrt{\frac{1}{\lambda_1}},y_2=\sqrt{\frac{1}{\lambda_2}},y_3=\sqrt{\frac{1}{\lambda_3}}$。因此，$x=Qy$,其实$x$还是和$y$一样的垂直坐标系。所以说特征向量决定了椭球轴的方向。