许多数学对象可以通过将它们分解成多个组成部分,或者找到它们的一些属性而更好地理解,这些属性是通用的,而不是由我们选择表示它们的方式产生的。
例如,整数可以分解为质因数。我们可以用十进制或二进制等不同方式表示整数
12
,但是
12=2×3×3
永远是对的。从这个表示中我们可以获得一些有用的信息,比如12不能被5整除,或者12的倍数可以被3整数。
正如我们可以通过分解质因数来发现整数的一些内在性质,我们也可以通过分解矩阵来发现矩阵表示成数组元素时不明显的函数性质。
特征分解(eigendecomposition)是使用最广的矩阵分解之一,即我们将矩阵分解成一组特征向量和特征值。
当向量
⎡⎣⎢⎢⎢⎢x1x2⋮xn⎤⎦⎥⎥⎥⎥
通过“
n
阶方
举例1:
c1[31]+c2[12]
通过
2
阶方阵
因此矩阵 [82−31] 的特征值是 λ=7,2 ,特征向量为与 λ=7 对应的是 [31] ,与 λ=2 对应的是 [12] 。
举例2:
c1⎡⎣⎢100⎤⎦⎥+c2⎡⎣⎢010⎤⎦⎥+c3⎡⎣⎢001⎤⎦⎥ 通过“ 3 阶方阵
因此矩阵 ⎡⎣⎢40002000−1⎤⎦⎥ 的特征值是 λ=4,2,−1 ,特征向量为与 λ=4 对应的是 ⎡⎣⎢100⎤⎦⎥ ,与 λ=2 对应的是 ⎡⎣⎢010⎤⎦⎥ ,与 λ=−1 对应的是 ⎡⎣⎢001⎤⎦⎥ 。
n 阶方阵的特征值和特征向量基本上有
方阵 A 的特征向量是指与
标量 λ 被称为这个特征向量对应的特征值。
如果 v 是
假设矩阵
我们已经看到了构建具有特定特征值和特征向量饿矩阵,能够使我们在目标方向上延伸空间。然而,我们也常常希望将矩阵分解成特征值和特征向量。这样可以帮助我们分析矩阵的特定性质,就像质因数分解有助于理解整数。
不是每一个矩阵都可以分解成特征值和特征向量。在某些情况下,特征分解存在,但是会涉及到复数,而非实数。本书只需要分解一类有简单分解的矩阵。具体地,每个实对称矩阵都可以分解成实特征向量和实特征值:
其中 Q 是
虽然任意一个实对称矩阵 A 都有特征分解,但是特征分解可能并不唯一。如果两个或多个特征向量拥有相同的特征值,那么在由这些特征向量产生的生成子空间中,任意一组正交向量都是该特征值对应的特征向量。因此,我们可以等价地从这些特征向量中构成
矩阵的特征分解给了我们很多关于矩阵的有用信息。矩阵是奇异的当且仅当含有零特征值。实对称矩阵的特征分解也可以用于优化二次方程 f(x)=xTAx ,其中限制 ||x||2=1 。当 x 等于
所有特征值都是正数的矩阵被称为正定(positive definite);所有特征值都是非负数的矩阵被称为半正定(positive semidefinite)。同样地,所有特征值都是负数的矩阵被称为负定(negative definite);所有特征值都是非正数的矩阵被称为半负定(negative semidefinite)。半正定矩阵受到关注是因为它们保证 ∀x,xTAx≥0 。此外,正定矩阵还保证 xTAx=0⇒x=0 。