协方差矩阵的几何解释

昨天看LLE locally linearly embedding时，看到目标函数$mi{n}_Y{\sum }_i^n\Vert y_i-{\sum }_{j=1}^k{w}_{ij}{y}_j{\Vert }^2$ .这样就没有唯一解，所以要对$Y$进行限制。
对$Y$进行平移，不影响目标函数，所以可以把$Y$的均值固定到原点：${\sum }_{i=1}^n{y}_i=0$，这个好理解。
第二个限制条件是说对$Y$进行旋转也不影响目标函数，所以为了限制$Y$的旋转，可以限制协方差矩阵为单位矩阵：$\frac{1}{n}Y{Y}^T=I_{d\ast d}$, where $Y=[y_1\dots y_n].$ 这里我就不理解了。
协方差矩阵和旋转有什么关系？ 协方差矩阵 旋转矩阵
很幸运，我找到了答案：
英文版
中文翻译版
（顺便一提这个人好厉害啊，晦涩的数学可以用通俗的语言表达深刻的理解）

被观察数据的协方差矩阵，直接与针对白（非相关）数据的线性变换有关。该线性变换完全由特征向量和特征值定义。特征向量表示了矩阵的旋转，特征值对应于每个维度上缩放因子的平方。