MIT 线性代数 Linear Algebra 24: 马尔科夫矩阵，傅里叶级数

这一节里，我们先介绍一类重要的矩阵: 马尔科夫矩阵。有很多系统都可以建模为 Markov Matrix，特别的，从某个初始状态开始，每次按照 Markov Matrix 来状态转移，最终系统都会进入一种稳态 (steady state)。在之前的两讲中，我们分别介绍了矩阵的幂和difference equation的解, 矩阵的指数函数和differential equation的解。他们最终都可能进入steady state (分别取决于 1 特征值 和 0 特征值)。Markov matrix 对应的是矩阵的幂次，因此我们会发现，最终steady state 取决于特征值 1 对应的特征向量。

Markov Matrices

定义

Markov matrix 的定义由以下两点给出

• 所有 entry 都是非负的
• 每一列加起来为1.

按照这种定义的 Markov matrix 也叫 left stochastic matrix。另一种常见的写法是 right stochastic matrix: 每一行加起来为1的矩阵 (就相当于转置了一下，需要左乘向量). 本节我们主要 focus on left stochastic matrix。

Fact 1: $\mathbf{A}$ 和 ${\mathbf{A}}^{\top }$ 的特征值完全相同, 特征向量一般不同。

这个fact 把特征多项式转置一下就能很显然得出。

性质

这样的矩阵有什么性质尼？

• ${\lambda }_1=1$ 一定是其特征值，且其对应的特征向量 ${\mathbf{x}}_1\ge 0$ 所有 entry 非负;
• 其他所有特征值都不会在单位圆外，$|{\lambda }_i|\le 1$.

原因

我们来看看为什么Markov matrix有这样的性质: $1$ 是他们的特征值说明
$$|\mathbf{A}-\mathbf{I}|=0$$

这也就意味着 $\mathbf{A}-\mathbf{I}$ 各行或者各列一定linearly dependent. 我们不妨把它写下来
$$\mathbf{A}-\mathbf{I}=\left[\begin{array}{ccccc}{a}_{11}-1& a_{12}& a_{13}& ...& a_{1n}\\ a_{21}& a_{22}-1& a_{23}& ...& a_{2n}\\ ...& ...& ...& ...& ...\\ a_{n1}& a_{n2}& a_{n3}& ...& a_{nn}-1\end{array}\right]$$

把前 $n$ 行 加在一起我们会得到
$$[-a_{n1},-a_{n2},-a_{n3},...,1-a_{nn}]$$

这与最后一行相关。因此其中一个特征值 ${\lambda }_1=1$，但是他的特征向量就没那么好找了。

In general, left stochastic matrix $\lambda =1$ 对应的特征向量都不是很好找，right stochastic matrix $\lambda =1$ 对应的特征向量很简单就是 ${\mathbf{x}}_1=[1,1,1,...,1{]}^{\top }$.

应用

Markov Matrix 性质带来的好处是解差分方程
$${\mathbf{u}}_{\mathbf{K}}={\mathbf{A}}^K{\mathbf{u}}_0$$

在第22讲我们已经讲过，只要 $\mathbf{A}$ 有 $n$ 个线性无关的特征向量，我们就可以把 ${\mathbf{u}}_0$ 写成 这些特征向量的线性组合，从而把 ${\mathbf{u}}_{\mathbf{K}}$ 写成
$${\mathbf{u}}_0=\mathbf{S}\mathbf{c}$$

$${\mathbf{u}}_{\mathbf{K}}={\mathbf{A}}^K\mathbf{S}\mathbf{c}={\Lambda }^k\mathbf{S}\mathbf{c}=c_1{\lambda }_1^k{\mathbf{x}}_1+c_2{\lambda }_2^k{\mathbf{x}}_2+...+c_n{\lambda }_n^k{\mathbf{x}}_{\mathbf{n}}$$

显然，如果 $\mathbf{A}$ 是Markov matrix的话，只有 $\lambda$ 为 1 的会保留下来，其他在单位圆内的全部消失。

比如如果只有 ${\lambda }_1=1$, 那实际上最后的steady state 就是 $c_1{\mathbf{x}}_1$. 如果有更多的 $\lambda =1$ 那就是他们对应的特征向量的某个 linear combination (系数$c$ 由初始条件决定)。

正交基展开

在本节的第二部分，我们讲一下怎么把一个向量或者一个函数按照一组正交基展开。

向量展开

我们都知道，如果矩阵 ${\mathbf{A}}_{n\times n}$ 各列线性无关，他的column space就是整个 ${\mathbb{R}}^n$ 空间, 任意向量都可以用这个矩阵的列线性组合表示，且各个系数就是向量在某一列上的投影。

那么，当 $\mathbf{A}=\mathbf{Q}$ 是正交阵时，有什么特别的结构尼？我们来看一下

$$\mathbf{v}=c_1{\mathbf{q}}_1+c_2{\mathbf{q}}_2+...+c_n{\mathbf{q}}_{\mathbf{n}}$$

为了得到 $c_i$ 我们在两边同乘 ${\mathbf{q}}_i^{\top }$ 即可：
$${\mathbf{q}}_i^{\top }\mathbf{v}={\mathbf{q}}_i^{\top }{c}_1{\mathbf{q}}_1+{\mathbf{q}}_i^{\top }{c}_2{\mathbf{q}}_2+...+{\mathbf{q}}_i^{\top }{c}_n{\mathbf{q}}_{\mathbf{n}}=c_i$$

用矩阵形式来写就是
$$\mathbf{Q}\mathbf{c}=\mathbf{v}$$

$$\mathbf{c}={\mathbf{Q}}^{-1}\mathbf{v}={\mathbf{Q}}^{\top }\mathbf{v}$$

其中每一项系数 $c_i={\mathbf{q}}_i^{\top }\mathbf{v}$.

函数展开

同样的，如果我们能找到一组函数正交基 (基中元素都是函数)，那么对于周期函数 $f(x)$, 我们都可以把它展开成正交基线性组合的形式。

傅里叶级数的思想就是如此, 它能将满足狄利克雷定理的任何周期函数或周期信号分解成一个（可能由无穷个元素组成的）简单振荡函数的集合，即正弦函数和余弦函数。

傅里叶级数 (Fourier series): 给定一组正交基
{ sin ⁡ x , cos ⁡ x , sin ⁡ 2 x , cos ⁡ 2 x , sin ⁡ 3 x , cos ⁡ 3 x , . . . } \left\{ \sin x, \cos x, \sin 2x, \cos 2x, \sin 3x, \cos 3x, ... \right\} {sinx,cosx,sin2x,cos2x,sin3x,cos3x,...}

我们可以把周期函数 $f(x)$ 展开为
$$f(x)=a_0+a_1\cos x+b_1\sin x+a_2\cos 2x+b_2\sin 2x+...$$

其中，正交定义为 (这里都是周期函数, $[0,2\pi ]$ 内积分也足够)
$${\int }_{-\infty }^{\infty }\cos nx\sin mxdx=0$$

系数可以两边积分得出，比如 $a_1$

$${\int }_{-\infty }^{\infty }f(x)\cos xdx=a_1{\int }_{-\infty }^{\infty }{\cos }^{2}xdx=a_1\pi$$

$$a_1=\frac{1}{\pi }{\int }_{-\infty }^{\infty }f(x)\cos xdx$$