如何直观理解SVD？

如何直观理解SVD？

学习笔记。参考的是视频，讲得真好。

3Blue1Brown的个人空间_哔哩哔哩_bilibili

当然有些视频还是得去youtube看

一、矩阵乘法的理解

向量可以看成向量空间中第一个点，左乘一个放缩矩阵，就相当于把第一个维度x，和第二个维度y都放大2倍。

扩展到更多的点，即无数点组成的图形

like

常见的变换矩阵

这类矩阵称为剪切矩阵，特性：保持物体的体积不变，只改变形状

正交矩阵

对称矩阵，逆矩阵

二、矩阵的分解

谱分解

例子：

SVD奇异值分解

谱分解要求的矩阵必须是方阵

而SVD可以对任意的矩阵

一个二维的向量怎么旋转，放缩，翻折都不会多出来一个高度的维度，就是说二维的世界，只能在平面内移动，

打破不了维度的壁垒。如果现需要把二维的物体映射到三维世界，要怎么做？

维度变换矩阵

举例：

概念

SVD定义：

一个正方体左乘上面矩阵M，变成如上图形。

我们可以对M进行SVD分解，来通过SVD来理解M对图形的操作过程

M1是右奇异向量的转置，是对图形进行旋转的操作，把图形的特征向量旋转到x轴和y轴标准正交基上。

总结

SVD本质上就是在分解矩阵的操作，一个矩阵对图形进行一系列复杂操作变化后的图像我们不理解，

可以对这个矩阵进行SVD分解。类似于把一个打乱的魔方进行还原，把它拆解成一步步的旋转后可以还原出它原本的样貌。

是在分解矩阵的操作，一个矩阵对图形进行一系列复杂操作变化后的图像我们不理解，**

可以对这个矩阵进行SVD分解。类似于把一个打乱的魔方进行还原，把它拆解成一步步的旋转后可以还原出它原本的样貌。