关于正交矩阵的二三事

注：本博文为本人阅读论文、文章后的原创笔记，未经授权不允许任何转载或商用行为，否则一经发现本人保留追责权利。有问题可留言联系，欢迎指摘批评，共同进步！！！

1 向量的正交

两个非$0$的列向量${\mathbf{a}}_{\mathbf{j}}$和${\mathbf{a}}_{\mathbf{k}}$。
若满足${\mathbf{a}}_{\mathbf{j}}^{\mathbf{T}}{\mathbf{a}}_{\mathbf{k}}=0$，那么${\mathbf{a}}_{\mathbf{j}}$和${\mathbf{a}}_{\mathbf{k}}$相互正交（orthogonal）。

1、orthonormal：一组单位、正交的向量，相互之间可称为orthonormal；
2、单位正交 $\Rightarrow$ 线性无关（谁也替代不了谁）。

2 正交矩阵

设{${\mathbf{v}}_{\mathbf{i}}$}是一组单位正交向量（orthonormal），每个向量的长度是$n$。那么，由这组向量组成的方阵${\mathbf{Q}}_{\mathbf{n}\times \mathbf{n}}$={${\mathbf{v}}_1{\mathbf{v}}_2\cdots {\mathbf{v}}_{\mathbf{n}}$}称为正交矩阵。

性质（$\mathbf{Q}$是正交矩阵）：
1、正交矩阵是方阵；
2、正交矩阵均可逆，且${\mathbf{Q}}^{-1}$=${\mathbf{Q}}^{\mathbf{T}}$ ($\mathbf{Q}{\mathbf{Q}}^{\mathbf{T}}={\mathbf{I}}_{\mathbf{n}\times \mathbf{n}}$);
3、若互为转置的矩阵也同样互为逆矩阵，那么这两个矩阵都是正交矩阵；
4、组成正交矩阵的行向量和列向量都是单位正交向量（orthonormal），即${\mathbf{Q}}^{\mathbf{T}}$也是正交矩阵;
5、$det(\mathbf{Q}{\mathbf{Q}}^{\mathbf{T}})=1⟹det(\mathbf{Q})=det({\mathbf{Q}}^{\mathbf{T}})=\pm 1$

2.1 正交矩阵作用于向量的效果

假设$\mathbf{x}$是$n$个元素组成的列向量，在正交矩阵$\mathbf{Q}$的作用下求长度的平方（$l_{2}norm$）：
$${\Vert \mathbf{Qx}\Vert }_2^2={\mathbf{x}}^{\mathbf{T}}{\mathbf{Q}}^{\mathbf{T}}\mathbf{Qx}={\mathbf{x}}^{\mathbf{T}}\mathbf{x}={\Vert \mathbf{x}\Vert }_2^2$$
显然，在正交矩阵的作用下，向量的长度不发生变化。因此正交矩阵的作用效果是旋转（roration）

举例：

2.2 一些特殊性质的正交阵

2.2.1 Permutation Matrix（置换矩阵）

形式：将单位矩阵的行或列打断顺序的矩阵
$$\mathbf{I}=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right]⟹\mathbf{P}=\left[\begin{array}{ccc}0& 1& 0\\ 1& 0& 0\\ 0& 0& 1\end{array}\right]$$
置换矩阵也是正交矩阵。

2.2.2 Givens Rotation Matrix

2.2.3 Householder Reflection Matrix

由最后这条性质可以看到，由于向量$\mathbf{u}$和$\mathbf{v}$的长度相同（$l_{2}norm$相同），Householder矩阵相当于是确定了这两个向量镜面对称平面。Householder变换实际上就是一个镜面反射变换。

3 相关资料

讲解视频：数值线性代数之QR分解 （P1、P2）