线性递推与 Cayley - Hamilton 定理的简要证明

• 引言：本篇对 $OI$ 领域 - “线性递推” 中用的重要定理 $Cayley-Hamilton$ 定理做出简要证明，并在文章结尾顺带一提了 “线性递推” 的算法。

• 符号规定，$|A|$ 表示矩阵 $A$ 的行列式，$A_{ij}$ 表示 $A$ $(i,j)$ 元的代数余子式，$A^{\ast }$ 表示 $A$ 的伴随矩阵， 根据定义我们知道 $A_{i,j}^{\ast }=|A_{ji}|$

• $\text{Part}1$ 特征多项式：
  定义：设 $A$ 是 $n$ 阶矩阵，如果数 $\lambda$ 和 $n$ 维向量 $\vec{x}$ 使关系式
  $$A\vec{x}=\lambda \vec{x}$$
  成立，那么这样的 $\lambda$ 称为矩阵 $A$ 的特征值，$\vec{x}$ 称为对应于特征值的特征向量
  上式也可以写作：$(A-\lambda E)\vec{x}=\vec{0}$
  那么我们知道，$\vec{x}$ 有非零解当且仅当
  $$|A-\lambda E|=0$$
  即
  $$\left|\begin{array}{cccc}{a}_{11}-\lambda & a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}-\lambda & \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{n1}& a_{n2}& \cdots & a_{nn}-\lambda \end{array}\right|=0$$
  容易发现，上式是一个关于 $\lambda$ 的 $n$ 次方程，称为矩阵 $A$ 的特征方程，$f(\lambda )=|A-\lambda E|$ 为特征多项式，注意到这个方程有 $n$ 个解（重根算多个，可以为复数），不妨定为 ${\lambda }_1,{\lambda }_2\cdots {\lambda }_n$，那么显然 $f(\lambda )=(\lambda -{\lambda }_1)(\lambda -{\lambda }_2)\cdots (\lambda -{\lambda }_n)$

• $\text{Part}2$： $Cayley-Hamilton$ 定理
  $Cayley-Hamilton$ 定理：令 $\phi (A)$ 为一个关于 $A$ 的矩阵多项式，其系数等于多项式$f(\lambda )$ 的各项系数，那么 $\phi (A)=0$
  我们先感性理解一下正确性，对于我们熟知的斐波那契递推矩阵
  $$\left|\begin{array}{cc}1-\lambda & 1\\ 1& -\lambda \end{array}\right|={\lambda }^2-\lambda -1$$
  那么根据 $Cayley-Hamilton$ 定理
  $${\left(\begin{array}{cc}1& 1\\ 1& 0\end{array}\right)}^2-\left(\begin{array}{cc}1& 1\\ 1& 0\end{array}\right)-E=0$$
  尝试证明：
  我们令 $B=A-\lambda E$
  那么有
  $$B^{\ast }\ast B=|B|\ast E=f(\lambda )\ast E\text{\hspace{1em}(1)}$$
  对于 $B^{\ast }$，其每一项 $B_{i,j}$ 均是由 $\lambda$ 的 $n-1$ 次多项是构成的，那么我们可以将 $B^{\ast }$ 写成一个关于 $\lambda$ 的，系数为 $n-1$ 阶矩阵的多项式
  $$B^{\ast }=C_0+C_1\ast \lambda +C_2\ast {\lambda }^2+\cdots +C_n\ast {\lambda }^{n-1}$$
  于是 $(1)$ 式，左边为
  $$(C_0+C_1\ast \lambda +C_2\ast {\lambda }^2+\cdots +C_{n-1}\ast {\lambda }^{n-1})(A-\lambda E)$$
  右边（我们令 $f(\lambda )={\sum }_{i=0}^n{a}_i{\lambda }^i$）
  $$(a_0+a_1\ast \lambda +a_2\ast {\lambda }^2+\cdots +a_n\ast {\lambda }^n)E$$
  观察 $\lambda$ 的系数
  $$\begin{gathered} C_{0}A=a_{0}E \\ {C}_{1}A-C_0=a_{1}E \\ {C}_{2}A-C_1=a_{2}E \\ ⋮ \\ {C}_{n-1}A-C_{n-2}=a_{n-1}E \\ -C_{n-1}=A_{n}E \end{gathered}$$
  对第二个式子同时右乘 $A$，第三个式子同时右乘 $A^2$ 依此类推
  $$\begin{gathered} C_{0}A=a_{0}E \\ {C}_1{A}^2-C_{0}A=a_{1}A \\ {C}_2{A}^3-C_1{A}^2=a_2{A}^2 \\ ⋮ \\ {C}_{n-1}{A}^n-C_{n-2}\ast A^{n-1}=a_{n-1}{A}^{n-1} \\ -C_{n-1}\ast A^n=A_n\ast A^n \end{gathered}$$
  左边相加右边相加得
  $$a_0\ast E+a_1\ast A+a_2\ast A^2+\cdots +a_n\ast A^n=0$$
  即 $\phi (A)=0$
  通过将矩阵化成多项式并比对各项系数巧妙化简最后将系数整合，太美了！

• $\text{Part}3$ ：线性递推
  矩阵优化递推的核心就是求出 $A^n$，那么我们发现 $A^n=\phi (A)\ast G(A)+R(A)=R(A)$
  $R$ 的各项系数可以由 ${\lambda }^n$ 对 $f(\lambda )=|A-\lambda E|$ 多项式快速幂 + 多项式取模得到
  令初始向量为 $\vec{v}$，那么我们要求的就是 （令 $R(A)$ 的系数为 $r_i$）
  $(A^n\ast \vec{v}{)}_1={\sum }_{i=0}^{k-1}{r}_i\ast (A^i\ast \vec{v}{)}_1$
  下标 $1$ 表示的是向量的第一个元素，那么 $(A^i\ast \vec{v}{)}_1$ 是已知的
  那么我们可以 $O(klog(k)log(n))$ 求出答案

应用资料：
同济大学《线性代数》
Cayley-Hamilton 定理的一個代數證明方法
转载请注明出处