机器学习之 奇异值分解 SVD

本文介绍了奇异值分解(SVD)的基本原理,包括特征值和奇异值的概念,阐述了SVD如何用于数据集的降维,通过保留主要的奇异值来去除噪声和冗余数据。奇异值与主成分分析(PCA)有密切联系,SVD提供了一种矩阵近似的手段,尤其是在科学和工程中,通常选择保留90%能量信息对应的奇异值。
摘要由CSDN通过智能技术生成


 奇异值分解(Singular Value decomposition SVD), 更小的数据集来表示原始数据。去除噪音和冗余数据。

 大致原理记录:

1、特征值

 如果说一个向量v是方阵A的特征向量,将一定可以表示成下面的形式:
在这里插入图片描述
在这里插入图片描述
 这时候λ就被称为特征向量v对应的特征值,一个矩阵的一组特征向量是一组正交向量。特征值分解是将一个矩阵分解成下面的

形式:
在这里插入图片描述
其中Q是这个矩阵A的特征向量组成的矩阵,Σ是一个对角阵,每一个对角线上的元素就是一个特征值

 线性变换(矩阵近似),略。再看分解得到的Σ矩阵是一个对角阵,里面的特征值是由大到小排列的,这些特征值所对应的特征

向量就是描述这个矩阵变化方向(从主要的变化到次要的变化排列)。利用这前N个变化方向,就可以近似这个矩阵(变换)

 特征值分解可以得到特征值与特征向量,特征值表示的是这个特征到底有多重要,而特征向量表示这个特征是什么,可

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值