1.Review of Linear Algebra

本节是本书的第一章第一节，主要回顾一些线性代数的基础知识，在流形分析中用到的线性代数知识是非常基本而经典的，比如线性空间、内积、矩阵、线性变换、矩阵的秩、转置。
本节的六个定理，Theorem 1.1 说明空间维数和基向量个数的关系，Theorem 1.2说明任何低于空间维数的线性无关向量组都可以扩充为一组基，Theorem 1.3说明矩阵乘积的上限模（sup norm）不大于两个矩阵上限模的乘积再乘以二者的公共维度，是一个卡上界的定理，在后面关于${\mathbf{R}}^n$上微积分的讨论中比较有用。Theorem 1.4说明了线性变换对目标空间的一种“遍历性”，可以变换至任意的向量组。Theorem 1.5是矩阵的行秩和列秩相等。Theorem 1.6说明初等行变换不影响矩阵的秩。

Exercises

Exercise 1. Let $V$ be a vector space with inner product $⟨x,y⟩$ and norm $\Vert x\Vert =⟨x,x⟩$.
( a ) Prove the Cauchy-Schwarz inequality $⟨x,y⟩\le \Vert x\Vert \Vert y\Vert$.
( b ) Prove that $\Vert x+y\Vert \le \Vert x\Vert +\Vert y\Vert$.
( c ) Prove that $\Vert x-y\Vert \ge \Vert x\Vert -\Vert y\Vert$.
Solution:
( a ) If $x=0$ or $y=0$ the inequality holds. Suppose $x,y\ne 0$ and let $c=1/\Vert x\Vert$ and $d=1/\Vert y\Vert$, since $\Vert cx-dy\Vert \ge 0$, we expand it to get
$$c^2\Vert x{\Vert }^2-2cd⟨x,y⟩+d^2\Vert y{\Vert }^2\ge 0⟹cd⟨x,y⟩\le 1$$
( b ) We have
$$\begin{array}{rl}\Vert x+y{\Vert }^2& =⟨x+y,x+y⟩=\Vert x{\Vert }^2+2⟨x,y⟩+\Vert y{\Vert }^2\\ & \le \Vert x{\Vert }^2+2\Vert x\Vert \Vert y\Vert +\Vert y{\Vert }^2=(\Vert x\Vert +\Vert y\Vert {)}^2\end{array}$$
( c ) We have
$$\begin{array}{rl}\Vert x-y{\Vert }^2& =⟨x-y,x-y⟩=\Vert x{\Vert }^2-2⟨x,y⟩+\Vert y{\Vert }^2\\ & \ge \Vert x{\Vert }^2-2\Vert x\Vert \Vert y\Vert +\Vert y{\Vert }^2=(\Vert x\Vert -\Vert y\Vert {)}^2\end{array}$$

Exercise 2. If $A$ is an $n$ by $m$ matrix and $B$ is an $m$ by $p$ matrix, show that
$$|A\cdot B|\le m|A||B|$$
Solution: We denote $A=(a_{ij})$ and $B=(b_{jk})$, where $1\le i\le n,1\le j\le m$ and $1\le k\le p$. Obciously $a_{ij}\le |A|$ and $b_{jk}\le |B|$. Now let $c_{ik}$ be the $ik$-th element of the product $A\cdot B$, we have
$$c_{ik}=$$