Chapter 5 Linear Algebra

（个人笔记，由于刚开始学习再加上英语不太好，所以有的地理解的可能不太对，望指正）

Chapter 5 Linear Algebra

5.1 Determinants

对于2维向量来说，行列式|ab|等于两个向量形成的平行四边形的面积，这个值是带符号的，正值表示右手性，负值表示左手性。右手性表示第一个向量沿小角度方向旋转到第二个向量是逆时针方向。

shearing操作不会影响面积
$$|(a+kb)b|=|a(b+ka)|=|ab|$$

除此之外行列式还有以下性质：

$$\begin{gathered} |(ka)b|=|a(kb)|=k|ab| \\ |a(b+c)|=|ab|+|ac| \end{gathered}$$

对于3维向量来说，行列式|abc|等于平行四边体的体积。

由上图以及shearing操作的性质可知

$$|(b_{c}b)a|=|ca|$$

所以可以得出:

$$\begin{gathered} b_c=\frac{|ca|}{|ba|} \\ {a}_c=\frac{|bc|}{|ba|} \end{gathered}$$

这是二维空间的Cramer’s rule

5.2 Matrices

5.2.1 Matrix Arithmetic

矩阵的性质:

$$\begin{gathered} AB\ne BA \\ (AB)C=A(BC) \\ A(B+C)=AB+AC \\ (A+B)C=AC+BC \end{gathered}$$

5.2.2 Operations on Matrices

矩阵$A$的逆矩阵为$A^{-1}$满足$A{A}^{-1}=I$，两个矩阵结果的逆矩阵满足:

$$(AB{)}^{-1}=B^{-1}{A}^{-1}$$

矩阵$A$的转置$A^T$满足:

$$a_{ij}=a_{ji}^{\prime }$$

两个矩阵结果的转置满足：
$$(AB{)}^T=B^T{A}^T$$

矩阵与行列式之间的关系

$$\begin{gathered} |AB|=|A||B| \\ |A^{-1}|=\frac{1}{|A|} \\ |A^T|=|A| \end{gathered}$$

5.2.3 Vector Operations in Matrix Form

5.2.4 Special Types of Matices

单位矩阵，单位矩阵也是正交矩阵，正交矩阵的行列式的值是$\pm 1$，正交矩阵的一个特性是矩阵的逆等于转置

5.3 Computing with Matrices and Determinants

取n个n维向量，把他们组成一个有向的平行体，就是行列式的值。

求行列式的值得方法是Laplace展开，例如一个4*4的矩阵：

$$|A|=a_{12}{a}_{12}^c+a_{22}{a}_{22}^c+a_{32}{a}_{32}^c+a_{42}{a}_{42}^c$$

5.3.1 Computing Inverses

矩阵的逆:

$$A^{-1}=\frac{1}{|A|}{A}_{adjoint}$$

伴随矩阵是余子式矩阵的转置。

5.3.2 Linear Systems

Cramer法则求线性方程的解

5.4 Eigenvalues and Matrix Diagonalization

特征向量是对于矩阵操作之后方向不发生改变的非零向量。

$$\begin{gathered} A\vec{a}=\lambda \vec{a} \\ A\vec{a}-\lambda I\vec{a}=0 \\ (A-\lambda I)\vec{a}=0 \end{gathered}$$

除非矩阵$A-\lambda I$是奇异的等式才成立，所以矩阵的行列式为0。

通常情况下，只会求4*4维度以下的矩阵特征值和特征向量。

如果对称矩阵，可以表示为

$$A=QD{Q}^T$$

其中Q为正交矩阵，D为对角矩阵，Q的列为A的特征向量，D的对角线上的值为特征值，该形式称为特征值分解。

5.4.1 Singular Value Decomposition

对于非对称矩阵，特征值和特征向量的求解比较复杂，可以使用奇异值分解(SVD)，来取得奇异值和奇异向量，与特征值分解不同的是，左右两边的正交矩阵的维度不同

$$A=US{V}^T$$

U和V的列分别称为左右奇异向量，S为对角矩阵，对角线上的值为奇异值。