**注:**在《SVD(奇异值分解)小结 》中分享了SVD原理,但其中只是利用了numpy.linalg.svd函数应用了它,并没有提到如何自己编写代码实现它,在这里,我再分享一下如何自已写一个SVD函数。但是这里会利用到SVD的原理,如果大家还不明白它的原理,可以去看看《SVD(奇异值分解)小结 》,或者自行百度/google。数据集:https://pan.baidu.com/s/1ZmpUSIscy4VltcimwwIWew。
1、SVD算法实现
1.1 SVD原理简单回顾
有一个$m \times n$的实数矩阵$A$,我们可以将它分解成如下的形式
$$ A = U\Sigma V^T \tag{1-1} $$
其中$U$和$V$均为单位正交阵,即有$UU^T=I$和$VV^T=I$,$U$称为左奇异矩阵,$V$称为右奇异矩阵,$\Sigma$仅在主对角线上有值,我们称它为奇异值,其它元素均为0。上面矩阵的维度分别为$U \in \mathbf{R}^{m\times m},\ \Sigma \in \mathbf{R}^{m\times n}$,$\ V \in \mathbf{R}^{n\times n}$。
正常求上面的$U,V,\Sigma$不便于求,我们可以利用如下性质
$$ AA^T=U\Sigma V^TV\Sigma^TU^T=U\Sigma \Sigma^TU^T \tag{1-2} $$ $$ A^TA=V\Sigma^TU^TU\Sigma V^T&#