本征系统理论

本征系统理论

我们将展示特征值和特征向量如何与显示矩阵结构的重要标准形相关。

1 基本定义

1.1 特征值与特征向量

一个向量$x\in {\mathbb{C}}^n$称为$A\in {\mathbb{C}}^{n\times n}$的一个特征向量，如果$x$是非零的，且$Ax$ 是 $x$的倍数，即存在$\lambda \in \mathbb{C}$，使得
$$Ax=\lambda x,x\ne 0$$
复标量λ称为与特征向量x相关联的$A$的特征值。$(\lambda ,X)$称为$A$的特征对。给定特征向量所相关联的特征值是唯一的。然而，每个特征值具有许多与其相关联的特征向量，因为如果$x$是对应于特征值λ的特征向量，并且α是非零标量，则$\alpha x$也是具有相关联的特征值λ的特征向量。
我们可以将(1)改写为 (λI－ A)x=0，x≠0的形式，表明 λI－A是奇异矩阵,因此任何特征值λ必须满足方程：
$$\det (\lambda I-A)=0$$
通过行列式的余因子展开，很容易看出p(λ) = det(λI − A) 是λ的n次多项式。我们称 p(λ)为A的特征多项式。根据代数基本定理，n次多项式恰有n个实零点或复零点，计入重数。因此，一个n×n矩阵正好有n个特征值，尽管它们不一定是不同的。A的所有特征值的集合称为A的谱，记为：
KaTeX parse error: Can't use function '$' in math mode at position 60: …bda_{n}\right\}$̲

我们有时用${\lambda }_i(A)$表示$A$在某种（通常是任意）排序中的第$i$个特征值。λ的代数重数是其作为特征多项式$p(\lambda )=\det (\lambda I-A)$的零点的重数。

1.2 不变子空间

$C_n$ 的子空间$\mathcal{X}$是A的不变子空间，如果$A\mathcal{X}\subseteq \mathcal{X}$，即$x\in \mathcal{X}$蕴含$Ax\in \mathcal{X}$。
**定理1：**设列向量$X\in {\mathbb{C}}^{n\times p},p\le n$，形成Cn 子空间χ的基。则$\mathcal{X}$是$A$的不变子空间当且仅当对于一些$B\in {\mathbb{C}}^{p\times p}$有$AX=XB$。当后者方程成立，这些$B$属于$A$。
**证明：**设$X=\left[\begin{array}{lll}{x}_1& \dots & x_p\end{array}\right]$和$Y=AX=\left[\begin{array}{lll}{y}_1& \dots & y_p\end{array}\right]$按列进行分区。如果$\mathcal{X}$是$A$的不变子空间，则$y{i}_i\in \mathcal{X}$，并且由于$X$是$\mathcal{X}$的基，因此$y_i$可以表示为$X$的列的线性组合，即，对于某个向量$y_i=X{b}_i$如果我们让$B=\left[\begin{array}{lll}{b}_1& \dots & b_p\end{array}\right]$，则$AX=XB$。
相反，如果对于某个$B\in C^{p\times p},AX=XB$.则将$AX$的第$j$列与 $XB$的第$j$列给出 A x j = ∑ i = 1 p x i b i j ∈ span ⁡ { x 1 , … , x p } = X A x_{j}=\sum_{i=1}^{p} x_{i} b_{i j} \in \operatorname{span}\left\{x_{1}, \ldots, x_{p}\right\}=\mathcal{X} Axj​=∑i=1p​xi​bij​∈span{x1​,…,xp​}=X.由于$A{x}_j\in \mathcal{X},j=1,\dots ,p$ 和$x_1,\dots ,x_p\mathrm{span}\mathcal{X}$,则对所有$x\in \mathcal{X}$都有$Ax\in \mathcal{X}$
设$(lambda,u)$是$B$的一个本征对。如果对某个$B\in {\mathbb{C}}^{p\times p}$ 有$AX=XB$，则$AXu=XBu=\lambda Xu$
和$Xu\ne 0$。因为$X$的列是独立的，所以$(\lambda ,Xu)$ 是A的一个本征对。因为这对B的每个本征对都成立，所以我们有$\Lambda (B)\subset \Lambda (A)$。

1.3相似，酉相似

设 $A,B\in C^{n\times \infty }$, 如果存在非奇异矩阵 $\mathrm{P}$ 使得
$$B=P^{-1}AP(2)$$

则矩阵 $\mathrm{A}$ 和 $\mathrm{B}$ 相似。 $(2)$ 称为相似变换, $\mathrm{P}$ 是变换矩阵。
**定理 2 ：**设 $A$ 和 $B$ 相似, 即 $B=P^{-l}AP$ 。则 $A$ 和 $B$ 具有相同的特征值, 并且 $X$ 是 $A$ 的具有相关特征值 $\lambda$ 的特征向量，当且仅当 $P^{-1}X$ 是 $B$ 的具有相关特佂值 $\lambda$ 的特址向量：
证明： $Ax=\lambda x\iff \left(P^{-1}AP\right)\left(P^{-1}x\right)=\lambda \left(P^{-1}x\right)$ ，所以 $(\lambda ,X)$ 是 $A$ 的一个特征对当且仅当 $\lambda \left(P^{-1}x\right)$ 是 $P^{-1}AP=B$ 的一个特征对。
**注意：**我们还可以证明 $\det (\lambda I-A)=\det \left(P^{-1}(\lambda I-A)P\right)=\det \left(P^{-1}AP-\lambda I\right)$ 。因此, $\mathrm{A}$ 和 $\mathrm{B}$ 具有 相同的特征值, 并且代数重数保持不变。
如果存在酉矩阵 $U$ 使得 $B=U^{\ast }AU$, 则称 $\mathrm{A}$ 和 $\mathrm{B}$ 是酉相似的。如果 $\mathrm{A}$ 和 $\mathrm{B}$ 是实数, 则称它 们是正交相似的, 如果存在一个实正交矩阵 U, 使得 $B=U^{T}AU$.
如果矩阵$A$类似于对角矩阵，则称$A$是可对角化的或简单的。

1.4 如何在解决问题中使用相似性？

相似性方法是一种经常用于解决问题的策略。下面是该方法的概要。
步骤 1： 选择一个类似于 A 的矩阵 B，它的问题更容易解决。
步骤 2： 使用矩阵 B 而不是矩阵 A 解决问题（B 问题）。
步骤 3： 根据矩阵 A 解释 B 问题的解。
例 1： 给定 $A=\left[\begin{array}{ll}1& 4\\ 3& 2\end{array}\right]$, 求 $A^{1010}$
步骤 1( 找到与 $\mathrm{A}$ 相似的更容易的 $\mathrm{B})$： 选择 $B=\left[\begin{array}{cc}5& 0\\ 0& -2\end{array}\right],P=\left[\begin{array}{cc}1& -4\\ 1& 3\end{array}\right]$, 则 $A=PB{P}^{-1}$.
步骤 2(利用 B 解决问题) ： $ \mathrm{B}^{{1010}=\left[\begin{array}{cc}5}{1010} & 0 \ 0 & -2^{1010}\end{array}\right]$
步骤 3 (解释 B-解决方案)： $A^{1010}=(PBP-1{)}^{1010}=P{B}^{1010}{P}^{-1}$. 因此：
$$A^{1010}=\frac{1}{7}\left[\begin{array}{cc}3\left(5^{1010}\right)+2^{1012}& 4\left(5^{1010}\right)-2^{1012}\\ 3\left(5^{1010}\right)-3\left(2^{1010}\right)& 4\left(5^{1010}\right)+3\left(2^{1010}\right)\end{array}\right]$$

例2： 在经济学的某些问题中，系统的状态用矩阵来描述 $S_n=I+A+A^2+\cdots +A^n$ at time $n$ where $A$ 是一个给定的矩阵。 使用相似性方法调查系统在“长期”中的行为， 即, 当 $n$ 无穷大时.
假设存在一个非奇异矩阵 $P$ 和两个标量 $\lambda$ 和 $\mu$ 使得 $A=P\left[\begin{array}{ll}\lambda & 0\\ 0& \mu \end{array}\right]P^{-1}$.
步骤一： 选择 $B=\left[\begin{array}{cc}\lambda & 0\\ 0& \mu \end{array}\right]$.
步骤二： 令 $T_n=I+B+B^2+\cdots +B^n$, 即：
$T_n=\left[\begin{array}{ll}1+\lambda +{\lambda }^2+\cdots +{\lambda }^n& \\ & 1+\mu +{\mu }^2+\cdots +{\mu }^n\end{array}\right]=\left[\begin{array}{cc}\frac{1-{\lambda }^{n+1}}{1-\lambda }& \\ & \frac{1-{\mu }^{n+1}}{1-\mu }\end{array}\right]$
对于所有的$n\ge 0$ 以及 $\lambda ,\mu \ne 1$. 如果 $|\lambda |,|\mu |<1,T_n$ 接近 $\left[\begin{array}{cc}\frac{1}{1-\lambda }& 0\\ 0& \frac{1}{1-\mu }\end{array}\right]$ 当 $n$ 无穷大时.
步骤三： 由于 $S_n=P{T}_n{P}^{-1}$, 因此 $S_n$ 近似于 $PT{P}^{-1}$ 当 $n$无穷大时 所以，即使不知道 $P$ 我们可以预测，从长远来看，系统将达到稳定状态。如果我们想要一个定量的陈述， 我们计算 $P$ 然后可以说 $n$ 有多大，才能使 $S_n$ 近似 $PT{P}^{-1}$ (稳态矩阵) 在 ${}^{\prime }{x}^{\prime }$ 个小数位内的准确性.

2 标准型

我们现在考虑以下问题：
方阵在相似变换下的最简单形式是什么？

2.1 Schur分解：三角化

我们从考虑酉相似性 $A=UB{U}^{\ast }$开始。酉相似性在计算上比相似性更简单，因为共轭转置比逆更容易计算。 舒尔定理断言，我们可以通过酉相似变换将任何 $n\times n$ 矩阵简化为三角形矩阵。
定理3 (Schur定理)： 设 $A\in {\mathbb{C}}^{n\times n}$. 然后存在一个酉矩阵$U$ and 和一个上三角矩阵$T$，这样
$$T=U^{-1}AU=U^{\ast }AU$$

**证明：**证明是通过$n$上的归纳法。 对于 $n=1$，结果显然成立。 让我们证明它对$n=k$成立 , 假设它能使 $n=k-1$时成立. 令 $A\in {\mathbb{C}}^{k\times k}.$ 令 $\lambda$ 是$A$的特征值 $x$ 是归一化的相关特征向量，使得 $x^{\ast }x=1.$ 设 $U_1$ 设是以 $x$ 为第一列的任何酉矩阵（有许多这样的矩阵：只取 ${\mathbb{C}}^k$的第一个成员为 $x$ 的任何标准正交基， 并设$U_1$ 为列为基的成员的矩阵). 记为 $U_1=\left[\begin{array}{ll}x& W\end{array}\right]$. 由于$W$的列与$x$正交,$W^{\ast }x=0$. 令 $A_1=U^{\ast }AU$.则
$$A_1=\left[\begin{array}{c}{x}^{\ast }\\ W^{\ast }\end{array}\right]A\left[\begin{array}{ll}x& W\end{array}\right]=\left[\begin{array}{cc}{x}^{\ast }Ax& x^{\ast }AW\\ W^{\ast }Ax& W^{\ast }AW\end{array}\right]$$
由于 $Ax=\lambda x$, 因此 $x^{\ast }Ax=\lambda$ 且 $W^{\ast }Ax=\lambda W^{\ast }x=0.$ 令 $\hat{A}=W^{\ast }AW.$ 则
$$A_1=\left[\begin{array}{cc}\lambda & x^{\ast }AW\\ 0& \hat{A}\end{array}\right]$$
但是 $\hat{A}\in {\mathbb{C}}^{(k-1)\times (k-1)}$, 因此，根据归纳假设，存在一个酉矩阵 ${\hat{U}}_2$ 和一个上三角矩阵 $\hat{T}$ 使得 $\hat{T}={\hat{U}}_2^{\ast }\hat{A}{\hat{U}}_2$. 定义
$$U_2=\left[\begin{array}{cc}1& 0_{1\times (k-1)}\\ 0_{(k-1)\times 1}& {\hat{U}}_2\end{array}\right]=\left[\begin{array}{cc}1& \\ & {\hat{U}}_2\end{array}\right]$$
则 $U_2$ 是一元的
$$U_2^{\ast }{A}_1{U}_2=\left[\begin{array}{cc}\lambda & x^{\ast }AW{\hat{U}}_2\\ 0& {\hat{U}}_2^{\ast }\hat{A}{\hat{U}}_2\end{array}\right]=\left[\begin{array}{cc}\lambda & x^{\ast }AW{\hat{U}}_2\\ 0& \hat{T}\end{array}\right]$$
这是上三角形。让我们称这个矩阵为 $T$, 则让 $U=U_1{U}_2$.则 $T=U_2^{\ast }{A}_1{U}_2=$ $U_2^{\ast }{U}_1^{\ast }A{U}_1{U}_2=U^{\ast }AU$
这个酉相似变换 $T=U^{-1}AU$ 也可以写为
$$A=UT{U}^{\ast }$$
写成这样，我们称其为 $A$的 Schur 分解. 注意，由于 $\det (U)\det \left(U^{\ast }\right)=$ $\det \left(U{U}^{\ast }\right)=1$
$$\det (\lambda I-A)=\det (\lambda I-T)=\prod _{i=1}^n\left(\lambda -t_{ii}\right)$$
$T$ 的对角线元素是 $A$特征值. TSchur 分解不是唯一的（特征值可以以出现在 $T$的任意顺序 ). $U$ 的列称为 Schur 向量. 除了 $u_1$, Schur 向量通常不是 $A$的特征向量 。

2.2 可对角化矩阵

任何矩阵 A 是可对角化的吗？
换句话说，我们总能找到一个非奇异的 $P$ 以至于$P^{-1}AP$ 是对角线?

2.2.1 与对角矩阵酉相似的矩阵类

一个矩阵 $A$ 是 标准的， 如果 $A{A}^{\ast }=A^{\ast }A$。正规矩阵类包含厄米矩阵和酉矩阵的重要子类。 对于正规矩阵，舒尔定理采用了一种特别好的形式：三角矩阵 $T$ 结果是对角线。Schur 定理的这种特殊形式称为谱定理。
定理 4（谱定理）： 令 $A\in {\mathbb{C}}^{n\times n}$. 则 $A$ 是规范的当且仅当存在酉矩阵$U$ 和对角矩阵 Λ\λ $\Lambda$ 从而
$$A=U\Lambda U^{\ast }$$

证明： 令 $A=UT{U}^{\ast }$ 是$A$ 的Schur 分解 . 如果 $A$ 是标准的，那么很容易证明 $T$ 是标准的 （参见练习 4）。由于正态矩阵和三角矩阵是对角矩阵（参见练习 8）。 $T$ 是对角矩阵。
相反，如果 $A$ 承认分解 $A=U\Lambda U^{\ast }$和 $U$ 单一的和 $\Lambda$ 对角线那么，因为对角线矩阵交换，
$$A{A}^{\ast }=\left(U\Lambda U^{\ast }\right)\left(U{\Lambda }^{\ast }{U}^{\ast }\right)=U\Lambda {\Lambda }^{\ast }{U}^{\ast }=U{\Lambda }^{\ast }\Lambda U^{\ast }=\left(U{\Lambda }^{\ast }{U}^{\ast }\right)(U\Lambda U{)}^{\ast }=A^{\ast }A$$

下一个定理给出了标准矩阵的另一个特征。
定理5 $A\in {\mathbb{C}}^{n\times n}$是标准的当且仅当它有 $n$ 个正交的特征向量。
证明： 从定理 4 可知，标准矩阵具有特征向量的正交基。相反，假设 $u_1,\dots ,u_n$ 是一个标准正交基 ${\mathbb{C}}^n$ 由特征向量$A$组成 $：A{u}_j={\lambda }_j{u}_j,j=1,\dots ,n$. 令 $U=\left[\begin{array}{lll}{u}_1& \cdots & u_n\end{array}\right]$ 和 $\Lambda =\mathrm{diag}\left({\lambda }_1,\dots ,{\lambda }_n\right)$. 则 $AU=U\Lambda$ 或等价于 $A=U\Lambda U^{\ast }$ 和 一个 $A$ i根据定理4是标准的。
2.2.2 类似于对角矩阵的矩阵
我们现在考虑相似变换 $P^{-1}AP$ 这里 $P$不一定是单一的。下一个定理确定了一大类可对角化矩阵。
定理 6： 令 $A$ 是一个 $n\times n$ 矩阵. 则 $A$可对角化当且仅当 if $A$ 有 $n$ 线性无关的特征向量。
**证明：**认为 $A$ 是可对角化的, 即存在 $P=\left[p_1,\dots ,p_n\right]$ 非奇异且 $\Lambda =\mathrm{diag}\left({\lambda }_1,\dots ,{\lambda }_n\right)$ 使得 $\Lambda =P^{-1}AP$或等效地，
$$AP=P\Lambda ⟺\left[A{p}_1,\dots ,A{p}_n\right]=\left[{\lambda }_1{p}_1,\dots ,{\lambda }_n{p}_n\right]⟺A{p}_i={\lambda }_i{p}_i,i=1,\dots ,n$$
因此，$P$ 的列是特征向量 $A$ 并且线性无关，因为 $P$ 是非奇异的。相反，如果 $A$ 有 $n$ 列线性无关的特征向量 $p_1,\dots ,p_n$ 对应于特征值 ${\lambda }_1,\dots ,{\lambda }_n$, 然后使用矩阵上方的符号 $P$ 是非奇异的，我们有 $AP=P\Lambda$ 这表明 $A$ 相似于 $\Lambda$.

我们现在证明当 $A$的特征值 ${\lambda }_1,\dots ,{\lambda }_n$ 与相应的特征向量不同 $x_1,\dots ,x_n$ 是线性无关的。假设特征向量 $x_i,i=1,\dots ,n$ 是线性相关的，所以 ${\sum }_{i=1}^n{\alpha }_i{x}_i=0$ 不是所有的常数 ${\alpha }_1,\dots ,{\alpha }_n$
等于零。我们可以假设 ${\alpha }_n\ne 0$ 如有必要，通过对特征值重新编号。乘法 ${\sum }_{i=1}^n{\alpha }_i{x}_i=0$ 通过 $\left(A-{\lambda }_{1}I\right)$ 给出：
$$0=\left(A-{\lambda }_{1}I\right)\sum _{i=1}^n{\alpha }_i{x}_i=\sum _{i=2}^n{\alpha }_i\left({\lambda }_i-{\lambda }_1\right)x_i.$$
将上述表达式乘以 $A-{\lambda }_{2}I$ 得：
$$0=\left(A-{\lambda }_{2}I\right)\sum _{i=2}^n{\alpha }_i\left({\lambda }_i-{\lambda }_1\right)x_i=\sum _{i=3}^n{\alpha }_i\left({\lambda }_i-{\lambda }_1\right)\left({\lambda }_i-{\lambda }_2\right)x_i$$
继续类似的乘法 $A-{\lambda }_{3}I$, 则 $A-{\lambda }_{4}I$ 依此类推，我们得到
$$0={\alpha }_n\left({\lambda }_n-{\lambda }_{n-1}\right)\left({\lambda }_n-{\lambda }_{n-2}\right)\dots \left({\lambda }_n-{\lambda }_1\right)x_n$$
但这是一个矛盾，当 ${\lambda }_i$ 是不同的，因为 ${\alpha }_n\ne 0$ and $x_n\ne 0$。因此充分条件为 $A\in {\mathbb{C}}^{n\times n}$ 具有 $n$个 线性无关的特征向量有 $n$个 不同的特征值。我们从定理 6 得出结论：$A$ 是可对角化的。
定理 7： 具有不同特征值的矩阵是可对角化的。
定理 6 和 7 表明与对角矩阵不相似的矩阵必然有多个特征值并且小于$n$个线性无关的特征向量。 注意矩阵 $\left[\begin{array}{ll}0& 1\\ 0& 0\end{array}\right]$ 有 0 作为重数 2 的特征值，并且只有一个特征向量 (任意倍数 $\left[\begin{array}{l}1\\ 0\end{array}\right]$） 与 0 相关联。因此$\left[\begin{array}{ll}0& 1\\ 0& 0\end{array}\right]$ 不可对角化。

2.3 Jordan 标准形

如果不是所有矩阵都是可对角化的，那么矩阵在相似变换下通常可以采用的最简单形式是什么？
**定理 8（Jordan 规范形式）：**任意矩阵$A\in {\mathbb{C}}^{n\times n}$ 可以用Jordan规范形式表示
$$\begin{array}{c}{X}^{-1}AX=J=\left[\begin{array}{lllll}{J}_1\left({\lambda }_1\right)& & & & \\ & J_2\left({\lambda }_2\right)& & & \\ & & & \ddots & \\ & & & & J_p\left({\lambda }_p\right)\end{array}\right]，(3a)\\ J_k=J_k\left({\lambda }_k\right)=\left[\begin{array}{ccccc}{\lambda }_k& 1& & & \\ & {\lambda }_k& \ddots & & \\ & & \ddots & 1& \\ & & & {\lambda }_k& \end{array}\right]\in {\mathbb{C}}^{m_k\times m_k}，(3b)\end{array}$$

这里 $X$ 是非奇异的并且 $m_1+m_2+\cdots +m_p=n$.
**证明：**有关该定理的证明（这并不容易）参见 $[1]$, [2] or [3].
这种 $m_k\times m_k$ 矩阵 $J_k$ 被称为约旦块。 约旦矩阵 $J$ 根据块的顺序是唯一的 J k J_{k} $J_k$, 但变换矩阵 $X$ 不是唯一的。约旦块 KaTeX parse error: Can't use function '$' in math mode at position 6: J_{k}$̲ 只有一个线性无关的特征向量。…
\left(J_{k}\left(\lambda_{k}\right)-\lambda_{k} I\right) x=\left[\begin{array}{lll}
0 & 1 & 0 \
0 & 0 & 1 \
0 & 0 & 0
\end{array}\right]\left[\begin{array}{l}
x_{1} \
x_{2} \
x_{3}
\end{array}\right]=0 \Rightarrow x_{2}=x_{3}=0
$$

从而 $x$ 是$e_1$的一个倍数。
约旦矩阵 $J$ 显示以下几个重要的属性。
(i)约旦块的数量 $p$ 是线性无关 $A$的特征向量的数量 (或等价于 $J$ )。因此矩阵 $A$ 可对角化当且仅当 $p=n$.
(ii) 给定特征值的代数重数（在第 1.1 节中定义） $\lambda$ 是约旦块的尺寸之和，其中 $\lambda$ 出现。
(iii) 几何多重性 $\lambda$ 是乔丹块的数量 $\lambda$。因此几何多重性$\lambda$ 是与相关联的线性无关特征向量的数量 $\lambda$ 或者，等效地， $\dim (\mathrm{null}(A-\lambda I))$.
(iv) 一个特征值 $\lambda$ 如果它出现在大小大于 1 的 Jordan 块中，或者等价于，如果它的代数重数超过其几何重数，则它是有缺陷的。如果一个矩阵有一个有缺陷的特征值，或者等价于，如果它没有一组完整的线性无关的特征向量，那么它就是有缺陷的。
例 3： 查找 $A$矩阵的 Jordan 矩阵 $J$ 具有作为特征多项式 $p(\lambda )=$ $(\lambda -1{)}^3(\lambda -2{)}^4$ 如果几何多重性也已知：$\dim (\mathrm{null}(A-I))=2$ 和 $\dim (\mathrm{null}(A-2I))=3$
$\dim (\mathrm{null}(A-I))=2$ 意味着有两个 Jordan 块与 ${\lambda }_1=1$ 并且因为 ${\lambda }_1$具有代数多重性 3 , 块之一是 2 阶，另一个是 1 阶。以类似的方式推理我们获得的第二个特征值
$$J=\mathrm{diag}\left(\left[\begin{array}{ll}1& 1\\ 0& 1\end{array}\right],[1],\left[\begin{array}{ll}2& 1\\ 0& 2\end{array}\right],[2],[2]\right)$$