随机奇异值分解（Randomized SVD, rSVD）

最新推荐文章于 2021-05-16 14:52:09 发布

颹蕭蕭

最新推荐文章于 2021-05-16 14:52:09 发布

阅读量8k

点赞数 11

分类专栏： # 矩阵论文章标签： RSVD SVD

我们不生产知识，我们只是互联网的搬运工

本文链接：https://blog.csdn.net/itnerd/article/details/111395778

版权

矩阵论专栏收录该内容

39 篇文章

订阅专栏

博客围绕RSVD和SVD算法展开，给出rSVD算法流程，进行代码详解和案例分析。以原始图片为例，对比了SVD和RSVD的耗时，SVD耗时8.07s，而RSVD仅耗时0.46s，体现出RSVD速度优势。还列出了参考文献。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

假设 $\in \mathbb{R}^{n\times m}$ 为瘦高矩阵， $n > m$

rSVD 算法流程如下：
在这里插入图片描述

# Define randomized SVD function
def rSVD(X,r,q=0,p=0):
    # Step 1: Sample column space of X with P matrix
    ny = X.shape[1]
    P = np.random.randn(ny,r+p)
    Z = X @ P
    for k in range(q):
        Z = X @ (X.T @ Z)

    Q, R = np.linalg.qr(Z,mode='reduced')

    # Step 2: Compute SVD on projected Y = Q.T @ X
    Y = Q.T @ X
    UY, S, VT = np.linalg.svd(Y,full_matrices=0)
    U = Q @ UY

    return U, S, VT

代码详解

在这里插入图片描述

案例

原始图片，大小： (3207, 2260)
在这里插入图片描述

A = imread(os.path.join('..','DATA','jupiter.jpg'))
X = np.mean(A,axis=2) # Convert RGB -> grayscale

U, S, VT = np.linalg.svd(X,full_matrices=0) # Deterministic SVD, [time spent: 8.07s]


r = 400 # Target rank
q = 1   # Power iterations
p = 5   # Oversampling parameter

rU, rS, rVT = rSVD(X,r,q,p)  # [time spent: 0.46s]

SVD 耗时 8.07 s

RSVD 耗时 0.46s，很快啊

## Reconstruction
XSVD = U[:,:(r+1)] @ np.diag(S[:(r+1)]) @ VT[:(r+1),:] # SVD approximation
errSVD = np.linalg.norm(X-XSVD,ord=2) / np.linalg.norm(X,ord=2)

XrSVD = rU[:,:(r+1)] @ np.diag(rS[:(r+1)]) @ rVT[:(r+1),:] # SVD approximation
errSVD = np.linalg.norm(X-XrSVD,ord=2) / np.linalg.norm(X,ord=2)

## Plot

fig, axs = plt.subplots(1,3,figsize=(20,10))

plt.set_cmap('gray')
axs[0].imshow(X)
axs[0].axis('off')
axs[0].set_title('original image')
axs[1].imshow(XSVD)
axs[1].axis('off')
axs[1].set_title('SVD')
axs[2].imshow(XrSVD)
axs[2].axis('off')
axs[2].set_title('rSVD')

plt.show()