SVD奇异值分解——矩阵压缩

最新推荐文章于 2024-12-18 19:19:17 发布
最新推荐文章于 2024-12-18 19:19:17 发布
阅读量778 收藏 6
点赞数 2
分类专栏： 机器学习 文章标签： 矩阵 python 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_50661271/article/details/125901163
版权
本文介绍了奇异值分解（SVD）的基本概念，详细阐述了SVD在数据降维、推荐算法和自然语言处理中的应用，并探讨了算法核心，包括酉矩阵和分解过程。通过实例和代码演示，展示了SVD如何实现矩阵压缩，从而减少内存消耗和提高运行效率。
摘要由CSDN通过智能技术生成

文章目录

基本概念

  • SVD
     奇异值分解。将矩阵进行压缩。大幅度减少内存消耗，提高运行速度。

应用

 数据降维、推荐算法、自然语言处理

算法核心

A = U ∑ V t A=U\sum V^t A=U∑Vt

对于任意矩阵A，我们总能够将其分解位三个矩阵 U 、 ∑ 、 V t U、\sum、V^t U、∑、Vt

  • U为酉矩阵
  • ∑ \sum ∑为对角阵
  • V t V^t Vt为酉矩阵

酉矩阵

  • 满足 A T = A − 1 A^T=A^{-1} AT=A−1

分解过程

将原始矩阵分解为三个矩阵

最低0.47元/天 解锁文章
【人工智能数学基础篇】——深入详解矩阵分解：奇异值分解（SVD）与主成分分析（PCA）在数据降维与特征提取中的应用
编程技术探索者，分享C/C++、C#、Java、数据库等开发经验，聚焦实战技巧与AI兴趣，助力编程爱好者成长。
12-17 5887
深入详解矩阵分解：奇异值分解（SVD）与主成分分析（PCA）在数据降维与特征提取中的应用
SVD——奇异值分解概述
暴躁的搬砖工…
01-22 2882
奇异值分解（SVD）概述前言特征值奇异值分解奇异值分解：定义奇异值分解：求解过程SVD的几何性质特征值分解和SVD的区别：几何意义SVD的一些性质参考资料 前言 奇异值分解（Singular Value Decomposition，简称 SVD) 奇异值分解是一个有着很明显的物理意义的一种方法，它可以将一个比较复杂的矩阵用更小更简单的几个子矩阵的相乘来表示，这些小矩阵描述的是矩阵的重要的特性。 这...
降维与压缩——奇异值分解（SVD）
Jayphone17的博客
01-29 4747
一、主成分分析（PCA）的局限性 二、特征值分解的几何意义 三、入手奇异值分解——Av = σμ 四、利用奇异值分解进行数据降维 1.列压缩数据降维 2.行压缩数据降维 3.矩阵整体进行数据压缩 五、利用python进行奇异值分解 ...
Python SVDC（奇异值分解压缩）
特别的猫
06-15 776
最近，需要补充实验数据，实现了基于SVD的图像压缩算法。奇异值分解能够有效的降低数据的维数，以本文的图片为例，从450维降到149维后，还保留了90%的信息虽然奇异值分解很有效，但是不能滥用，一般情况下要求降维后信息的损失度不能超过5%，甚至是1%. Recently, the experimental data need to be supplemented, and the image compression algorithm based on SVD is implemented.Singular
矩阵压缩与解压缩
但行好事，莫问前程
03-27 1641
运行界面 PS:测试时需要自己在目录C:\Users\win10\Desktop 下先建立测试文件。 一、 1.测试对称矩阵的压缩 test1文件的内容： 界面输入如下： 下拉组合选择框，选择对称矩阵，点击按钮“压缩”。 运行结果：输出文件1.1.txt文件内容如下： 上三角矩阵、下三角矩阵、稀疏矩阵的测试方式同上。 代码 //画界面需要的 import java.awt.Font; im...
【图像压缩】基于奇异值分解SVD实现图像压缩附Matlab代码
m0_60703264的博客
03-05 1143
图像压缩是图像处理中一项重要的技术，它可以减少图像文件的大小，便于存储和传输。目前，图像压缩算法主要分为有损压缩和无损压缩两大类。有损压缩算法可以获得更高的压缩比，但会损失部分图像信息；而无损压缩算法则可以保证图像信息不丢失，但压缩比相对较低。本文将介绍一种基于奇异值分解（SVD）的图像有损压缩算法。SVD是一种矩阵分解技术，可以将一个矩阵分解为三个矩阵的乘积，即 U、Σ 和 V。
机器学习中的数学：（三）矩阵分解(Matrix Decompositions)
weixin_45315656的博客
04-26 2122
文章目录行列式与迹（Determinant and Trace）行列式（Dterminant）迹(Trace) 矩阵分解可以用于压缩矩阵，已经可能少的空间存储一个矩阵 行列式与迹（Determinant and Trace） 行列式（Dterminant） 行列式可以看成将一个方阵映射成一个实数。（只有方阵才有行列式） 可以将行列式用于判断一个方阵是否可逆： 对于上/下三角矩阵的行列式的值为: det⁡(T)=∏i=1nTii\operatorname{det}(\boldsymbol{T})=\pro
张量分解(4)——SVD奇异值分解
hyk的博客
07-14 1455
张量分解第四话，详细叙述了奇异值分解的概念、形式、如何计算、以及意义
每天进步一点点《SVD用于压缩》
qq_29367075的博客
09-12 323
今天给大家分享一个 SVD 用于数据压缩的例子。 还是以图片作为距离，图片是有 M*N 个像素点组成的，在县线性代数中可以将其当做是一个矩阵进行处理和运算。由上一章节我们学习到了，经过SVD分解后，提取前几个主要的特征向量即可大约组成原始图像。Img = UΣVT 下面我们将给出一个例子。使用的是 Octave 软件（别慌，语法都是兼容Matlab的），准备了一图像（315 x 485 x 3 = 152775 x 3）的彩色图像，灰度图像都是而且的，加上RGB三原色后，按照比例既可混合
矩阵奇异值分解SVD用于图像压缩的要点
左超
01-16 4038
<br />矩阵奇异值分解：对于矩阵A，存在酉矩阵P和Q，使得PHAQ=D，其中D为对角线矩阵，其对角线上的元素为矩阵A的奇异值；并且有A=PDQH。<br />       奇异值分解用于图像压缩的思路：从上面的理论中，我们可以看出D矩阵是稀疏矩阵，相对于原始矩阵（图像）A，D的有效数据少的多，而对于稀疏矩阵我们已经有很多压缩存储算法。然后，仅仅根据这个知识是无法直接把奇异值分解用于图像压缩的，因为在使用矩阵D来恢复矩阵A时，需要知道P和Q的内容，这样，反而增加了需要存储或传输的数据量，根本起不到压缩的作
数学建模 之 奇异值分解SVD
HeroIsUseless的博客
01-26 576
这名字还挺好听的，SVD。 奇异值分解，跟 把一个向量拆成一组正交向量之和是一回事。只不过这里的向量是矩阵。σ(拆出来的矩阵)就是坐标。数学里面，因式分解，泰勒展开，傅里叶变换，特征值分解，奇异值分解，通通是这个路数。 就是把当前数据表示成一组某种意义下特征相互独立(不能互相表达)的数据叠加的形式。 目的就是便于处理，或者舍弃次要信息(使得每个元素都能最大程度表达信息) 如果方阵对某个向量只产生伸缩，而不产生旋转效果，那么这个向量就称为矩阵的特征向量，伸缩的比例就是对应的特征值。所以说，其实特征向量才是
SVD应用于图像压缩 Python代码测试
m0_37772174的博客
07-26 2479
前言   利用SVD是可以对图像进行压缩的，其核心原因在于，图像的像素之间具有高度的相关性。 代码 # -*- coding: utf-8 -*- ''' author@cclplus date:2019/11/3 ''' import cv2 from PIL import Image import matplotlib as mpl import numpy as np import matp...
数据挖掘--矩阵的SVD分解
萝卜丝儿皮尔
11-12 1690
QR分解虽然很有用，而且具有较为稳定的性质，但也有不足之处：QR分解只能提供原矩阵A的列的一组正交基。 现在介绍的SVD分解可以分别提供对应原矩阵的行、列的正交基。 矩阵U、矩阵V的列向量都是奇异向量； 中间的对角矩阵的对角元是奇异值。 上图中的两种表示方法展现了两种SVD，前者为FULL型的，后者为THIN型的（也称经济型的） % MATLAB函数 [U,S,V]=svd(A) %第一种的S...
奇异值分解（SVD）在图像压缩中的应用
zbt898241895的博客
12-18 929
奇异值分解是将一个矩阵分解为三个矩阵的乘积：其中：AA 是一个 m×nm×n 的矩阵。UU 是一个 m×mm×m 的正交矩阵（左奇异向量）。ΣΣ 是一个 m×nm×n 的对角矩阵，对角线上的元素称为奇异值。VTVT 是一个 n×nn×n 的正交矩阵（右奇异向量）。奇异值的大小通常是递减的，较大的奇异值对应矩阵的主要特征，而较小的奇异值则对应噪声或不重要的信息。因此，通过保留较大的奇异值，可以实现数据的降维和压缩。奇异值分解是一种强大的数学工具，能够有效地应用于图像压缩和数据降维。
矩阵分解 - 奇异值分解 SVD
GoWeiXH的小天地
07-19 1288
矩阵分解 - 奇异值分解 SVD奇异值分解几何解释紧奇异值分解（无损压缩）计算方法截断奇异值分解（有损压缩）计算方法（矩阵的外积展开式）实际意义 奇异值分解 奇异值分解，Singular value decomposition（SVD） 在推荐、图像等多个领域中，因为数据矩阵的庞大，所以经常需要对矩阵进行压缩；亦或有噪声，要进行去噪，奇异值分解就是解决方法中的一个。它将矩阵分解为三个矩阵相乘的...
Python实现奇异值分解（SVD）压缩图片
weixin_44873868的博客
02-29 3904
奇异值分解(Singular Value Decomposition 简称SVD)是线性代数中的一种重要分解，在很多领域都有着广泛的应用。这篇文章将通过一个图像压缩的例子教你如何在Python中使用SVD实现数据压缩，并说明其原理。 奇异值分解压缩的原理 先看一个简单的例子，如果你想要在网络上给别人发送一段数据，数据的内容为 当然，最简单的方法就是给这个矩阵直接发过去，这是一个5x5...
矩阵分析：基于SVD的彩色图像压缩技术
燕双嘤
11-19 4810
题目：基于SVD的彩色图片压缩技术 摘要：本文首先研究图片的构成原理，结合矩阵分析，将图片分解为三种颜色矩阵，然后通过矩阵的奇异值分解将原本的颜色矩阵分解为两个酉矩阵和一个对角矩阵的乘积，然后通过选择对角矩阵中特征值的个数对图像进行一定程度的压缩。经实验证明利用矩阵奇异值分解可以做到图片的无损压缩以及允许极小误差下的有损压缩，并且效果显著，不仅有利于网络传输，还减轻了图片存储压力。 关键字：SVD；奇异值分解；压缩；有色图片; 1，引言 在人类获取的所有信息中，83%来源于眼睛，也就是视觉。眼.
四、用SVD压缩图像
FREEMAN
07-11 9659
矩阵的奇异值分解是矩阵的一种分解方式。我们可以利用矩阵的奇异值分解，提取矩阵的主要信息，从而通过比原矩阵少的数据量，来还原跟原矩阵差不多的信息。在python的numpy库中跟我们提供了svd分解的函数： U, S, VT = numpy.linalg.svd(matrix) 该函数返回2个矩阵U、VT和1个1维的奇异值向量，这是因为奇异值矩阵是一个对角矩阵，除了对角元素外其他元素都为0，转为...
数据降维 | 奇异值分解(SVD) 、推荐系统、图像压缩
Data Hero
04-14 1431
01 PCA.改 在上一篇文章中，我们学习并实践了一种主流的数据降维算法——主成分分析(PCA)。 我们再来回顾一下PCA的优缺点： 优点：降低数据复杂性，识别最重要的多个特征 缺点：PCA需要将所有数据集放入内存，若数据集较大，内存处理效率低，此时需要使用其他方法来寻找特征值 基于PCA算法在处理大数据集时内存处理效率较低的缺点，出现了一种更加高效的降维算法——奇异值分解(SVD)，本文简...
svd奇异值分解例题
最新发布
01-06
### SVD 奇异值分解 示例 详解 #### 理论基础 SVD（奇异值分解）是一种强大的线性代数技术，能够将任意大小的矩阵 \( A \) 分解成三个特殊形式的矩阵相乘的形式。具体来说，对于一个 \( m \times n \) 的矩阵 \( A \)，可以表示为： \[ A = U\Sigma V^T \] 其中： - \( U \) 是一个 \( m \times m \) 正交矩阵， - \( Σ \) 是一个 \( m \times n \) 对角矩阵，其对角线上是非负实数值，称为奇异值， - \( V \) 是一个 \( n \times n \) 正交矩阵。 这种分解方式不仅有助于理解原始数据结构，而且在多个领域有着重要应用[^1]。 #### Python实现过程 下面是一个简单的Python代码示例，展示如何利用NumPy库执行SVD操作并解释各个组成部分的意义。 ```python import numpy as np # 创建一个随机矩阵作为例子 np.random.seed(0) matrix_A = np.random.rand(4, 3) print("Original Matrix:") print(matrix_A) # 执行SVD分解 U, sigma_values, VT = np.linalg.svd(matrix_A) # 将sigma转换为完整的Sigma矩阵 Sigma = np.zeros((matrix_A.shape[0], matrix_A.shape[1])) for i in range(min(matrix_A.shape)): Sigma[i][i] = sigma_values[i] print("\nMatrix U (Orthogonal):") print(U) print("\nDiagonal Matrix of Singular Values (Σ):") print(Sigma) print("\nTranspose of Matrix V (V.T):") print(VT) # 验证重构后的近似原矩阵 reconstructed_matrix = U @ Sigma @ VT print("\nReconstructed Approximation of Original Matrix:") print(reconstructed_matrix) ``` 此段程序首先定义了一个\( 4\times3 \)尺寸的随机浮点数组合而成的测试矩阵 `matrix_A` 。接着调用了 NumPy 库中的 svd 函数来进行奇异值分解，并分别获取到了左正交矩阵 \( U \), 中间带状分布着奇异值的矩形对角阵 \( Σ \)(这里为了方便显示将其扩展成了全零填充的大方阵)，以及右正交矩阵 \( V^T \)[^3]。 最后一步则是通过这三个分量重新构建出了接近初始输入的数据表征——尽管由于计算精度损失等因素影响，两者之间可能存在细微差异。 #### 图像压缩实例 考虑到SVD的应用之一是在保持图像质量的同时减少存储空间需求方面表现出色。可以通过只保留前几个最大的奇异值及其对应的方向来达到这一目的。这样做会使得重建出来的图片虽然细节有所丢失但是整体轮廓依然清晰可见[^2]。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值