python lu分解_【第一章 线性代数】1.5 SVD分解的证明+SVD的应用+多元线性回归

fe724a83e42990a6bbcc09ca8c742bdb.png

掌握目标:

1、了解svd分解证明过程,以及svd分解的算法流程

2、掌握svd分解的应用以及意义

3、掌握多元线性回归,以及矩阵表达形式,以及样本个数和维数不同情况下解的情况

1。矩阵的奇异值分解(来原,证明,求解例子)

6bde070a3afc28dfb982c02c3efadbec.png

1662fc7bcbd09e05150040caf40f2b45.png

eeee91b2cf078b733c0c7f56be674368.png

equation?tex=++++++++++++++++++++++++++++++++++++++A%5E%7BH%7DA+%3D+A%5E%7BT%7DA 只是符号不一样。

e91127b7baf0e58a4546af91e0003b37.png
奇异值定义

ba4035448000f8753a35fbf8b6fa4ebd.png
酉矩阵就是正交矩阵

d55229ee183287abed039db70e3469be.png

969771ce08702f36650cd8096a8f5708.png
通过证明可知道U和V怎么来的,要看懂,实际上在工作中遇到就是调库

求解矩阵A的奇异值分解:

6a212ac412f977960ba6cd957bb28041.png

037ff16d3985bdd00c40217b9b79a2c2.png

2。SVD分解的应用

1)图像压缩

图像压缩原理:

2d62432e4271be9ae8e5c33b72cc4f60.png

1024ebc8720a87d97eb29b720a4cde8e.png
网络图片传输原理,以前是不全到全,现在是模糊到清晰

2)矩阵加速运算

在神经网络中的矩阵计算加速

1d38a6e3895b356ce213462fd69aefe0.png

3。多元线性回归

df2d7bd3b073fd3d3a5bfd2ebf74bfbd.png

1ea016caa81f06357847ea7847f16200.png

88d6556ee35addbf6747ffbd139ae661.png

839348eb70d3bc8f34eecfbc4b2cea52.png

64ddff00d88bd0b0d72e3ac6a9840c1f.png

fb42b306cfd26dedb3074f40e19ab83b.png
证明为啥必定可逆

dd74a75c5bf4b7efac3ec33d818f5035.png
一般都是用岭回归

【打卡作业】:

1、学习Numpy中SVD分解的函数

SVD分解=奇异值分解=奇异矩阵分解

奇异值分解(Singular Value Decomposition,SVD)是一种矩阵分解(Matrix Decomposition)的方法。

除此之外,矩阵分解还有很多方法,例如特征分解(Eigendecomposition)、LU分解(LU decomposition)、QR分解(QR decomposition)和极分解(Polar decomposition)等

Python 中可以使用 numpy 包的 linalg.svd() 来求解 SVD。

'''奇异值分解svd'''

A = np.array([[1, 2, 3], [4, 5, 6]])
U, sigma, VT = np.linalg.svd(A)
print(U)
# [[-0.3863177  -0.92236578]
#  [-0.92236578  0.3863177 ]]
print(sigma)
# [9.508032   0.77286964]
print(VT)
# [[-0.42866713 -0.56630692 -0.7039467 ]
#  [ 0.80596391  0.11238241 -0.58119908]
#  [ 0.40824829 -0.81649658  0.40824829]]

我觉得这个关于np.linalg.svd()函数介绍很好,可参考如下:

numpy.linalg.svd函数_Python_潜艇-CSDN博客​blog.csdn.net
a75248a4440ecbec699d8cded9ec2bf5.png

2、自己再列举2个SVD分解的作用

(1)SVD在推荐系统中可以应用,并且衍生出其他模型svd++等

(2)重构推荐系统中的评分矩阵

(3)可以衍生出主题模型

(4)降维度时,可以选择三个矩阵的前n行或者列进行重构

(5)数据集降维压缩

(6)适用于任意一种矩阵的分解

(7)用于搜索引擎语义层次检索的LSI(潜在语义索引)

(8)主成分分析(PCA)

(9)图像降噪、恢复

265447c5b197a1749a371a08b48f86d8.png

(10)特征脸

(11)谱聚类

(12)从视频中删除背景?

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值