神经网络之向量空间的正交坐标系的数量

一、结论

对于一个 $n$ 维实向量空间（比如 ${\mathbb{R}}^n$）：

• 它的所有正交坐标系（也就是所有标准正交基） 之间的关系可以用一个 正交群（orthogonal group） 来描述：

$$O(n)=Q\in {\mathbb{R}}^{n\times n}\mid Q^{T}Q=I$$

换句话说：

任意两个正交坐标系之间，都可以通过一个正交矩阵的旋转或反射变换相互转换。

---

二、为什么有无数多个？

拿二维平面举例。
一个二维正交坐标系就是一对互相垂直的单位向量：

$$e_1=(\cos \theta ,\sin \theta ),e_2=(-\sin \theta ,\cos \theta )$$

随着角度 $\theta$ 在 $[0,2\pi )$ 中连续变化，
你就得到了无穷多个不同的正交坐标系。

每一个都是正交的，只是方向不同。

所以——在二维里，所有正交坐标系构成一个圆形的集合（群）：
$$O(2)\approx \text{所有旋转+反射操作的集合}$$

在三维空间里，情况更壮观：

• 所有旋转操作形成一个 3 维流形，称为 旋转群 SO(3)；
• 加上反射操作，就得到整个 O(3)；
• 它们一起描述了无数种“空间朝向”。

---

三、几何直觉

可以这么想：

• 向量空间本身是“舞台”，永远静止；
• 正交坐标系是“相机”，你可以随意转动它；
• 不论怎么旋转相机，空间依旧完整，只是你换了看它的角度。

所以正交基无数个，是因为你能从无数角度去描述同一个空间。

---

四、与 SVD 的联系

这正是奇异值分解里 $V$ 的“旋转自由度”所在。

在 SVD 中：

$$A=U\Sigma V^T$$

• $V$ 就是输入空间的一个正交基（坐标系）；
• 但它不是唯一的，因为可以选择别的正交基；
• 唯一性只在奇异值不同的方向上成立。

也就是说：

当矩阵有重复奇异值时，对应的主方向不唯一。
在那个子空间内，你可以自由旋转坐标系，仍然是合法的奇异向量系。

这就是为什么我们说“右奇异向量矩阵不是唯一的”。

---

五、总结成一句话

在一个 $n$ 维向量空间中，有无数个正交坐标系；
它们之间通过正交矩阵连接，形成了一个连续的旋转宇宙。

如果你固定空间的几何结构，
旋转相机永远拍不完的角度，
就是这些无穷多的正交基。

---

要不要我给你展示一下二维空间中所有正交基的“连续变化动画”原理？可以看到 $V$ 如何在单位圆上滑动，把基向量旋转成一整圈。