机器学习-奇异值分解(SVD)

本文详细介绍了奇异值分解(SVD)的概念,包括矩阵奇异值的含义和奇异值分解的定义,并证明了A=UΣVT的性质。此外,文章探讨了SVD在信息检索(如LSI)、推荐系统和图像压缩等领域的应用。
摘要由CSDN通过智能技术生成

1. 矩阵奇异值的含义

矩阵奇异值的含义是从方阵的特征值概念中延伸出来的
对于任意形状的矩阵 A m n A_{mn} Amn A T A A^TA ATA表示一个 n n n阶的对称方阵,假设 v i v_i vi A T A A^TA ATA的单位正交特征向量, λ i \lambda _i λi A T A A^TA ATA对应的特征值 ( λ i > 0 ) (\lambda _i>0) (λi>0)
∣ A v i ∣ 2 = ( A v i ) T A v i = v i T ( A T A v i ) = v i T λ i v i = λ i |Av_i|^2=(Av_i)^TAv_i=v_i^T(A^TAv_i)=v_i^T\lambda _iv_i=\lambda _i Avi2=(Avi)TAvi=viT(ATAvi)=viTλivi=λi

将向量 A v i Av_i Avi的模长 λ i \sqrt{\lambda _i} λi 定义为矩阵A的奇异值, 记为 σ i \sigma_i σi

2. 奇异值分解(SVD)

矩阵的奇异值分解涉及到一个类似对角的矩阵 Σ m ∗ n = [ D 0 0 0 ] \Sigma_{m*n}=\begin{bmatrix} D & 0 \\ 0 & 0 \end{bmatrix} Σ

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值