【线性代数】SVD&PCA

已于 2024-06-04 16:10:54 修改
阅读量614 收藏 1
点赞数 12
分类专栏： 基础学科 文章标签： 线性代数 机器学习 人工智能
于 2024-06-04 16:09:53 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ellazeng/article/details/139444979
版权

 用最直观的方式告诉你：什么是主成分分析PCA_哔哩哔哩_bilibili

奇异值分解singular value decomposition，SVD

principal component analysis,PCA

降维操作

pca就是降维后使得信息损失最小

投影在坐标轴上的点越分散，信息保留越多

pca的实现

数据基本的线性变化

协方差矩阵的特征向量就是R

协方差

x，y正相关，协方差大于零；负相关，协方差小于零

pca求解

SVD中的V矩阵就是pca中的R

小电爱翻译
关注
专栏目录
PCA线性代数讲解
gcaxuxi的博客
08-07 2万+
线性代数及PCA详解 本章对最近学习的线性代数知识进行总结，最后以PCA为例运用线代中的相关知识讨论其中的原理。才疏学浅，各位有什么意见可以讨论，一起查缺补漏。 1. 线代基础对于深度学习，它需要一定的数学和机器学习基础，特别的，线性代数、概率与信息论和数值计算尤为重要（参见《deep learning》一书）所以我们本章主要对线代进行讨论，当然主要是为了针对PCA包含的知识点。如果有同学希望可
线性代数及应用【下】：矩阵分解、主成分分析（PCA）
jjt12jt的博客
05-27 241
线性代数应用下：矩阵分解、主成分分析等
线性代数——PCA主成分分析计算步骤
热门推荐
snowdroptulip的博客
04-05 1万+
主成分分析线性代数概念复习向量的内积基协方差矩阵实对称矩阵特征值和特征向量主成分分析的计算步骤 本文不会深究原理，如果有时间我会把原理补上，这篇文章主要是讲主成分分析的计算步骤。 在开始详细介绍PCA算法前，我们先来复习一下线性代数中几个重要的概念 线性代数概念复习 向量的内积 假设a⃗=[a1a2...an]\vec{a}=\begin{bmatrix} a_1 \\ a_2 \\ ...\\...
PCA与线性代数的关系
See what you want to see
05-01 424
PCA与线性代数的关系 这篇博客记录一下今天花了几个小时复习线性代数以理解PCA原理的过程，内容比较粗浅，但是大致知道原理了，公式在这里就不多提了，最多扯一下矩阵和各个概念的涵义。 PCA 用处 吴恩达说这玩意儿可以用来做可视化（高维降维成2维）和特征压缩，这个没什么异议。 可视化没啥可说的，主要从降维来说说原理吧。 原理 其数学原理，主要就是从m*n的矩阵（m个样本，每个样本有n个特征）中选区分...
线性代数笔记16：理解PCA
crazy_scott的博客
04-27 611
在SVD的基础上，深入理解PCA。 本文涉及到仿射变换、SVD等多个概念，可以先看参考文献，本文作为复习理解之用。 基本思想 降维是机器学习中很常见的一种思维方式，一般来说，可以通过线性投影和非线性映射进行。 PCA是一种简单的线性映射，当考虑降维时，我们一般有两种思路： 找到d-维仿射变换子空间，在合适的投影下，新的投影点与原先的投影点就接近。也就是说，在新投影下能最大限度的...
【线性代数08】奇异值分解SVD及其应用
月亮鱼与十四行的博客
08-14 509
这篇文章围绕SVD（Singular Value Decomposition）展开，先展示其基本流程，再说明其如何用于一般性地求违逆和用于PCA降维时的内在机理。
【Python · PyTorch】线性代数 & 微积分
茶色喵的博客
10-28 1500
本文为博主自用知识点提纲，无过于具体介绍，详细内容请参考其他文章。
线性代数：SVD在PCA中的应用解析
"本文是《线性代数入门》第五版7.3节的中文翻译，探讨了主成分分析（PCA）以及如何通过奇异值分解（SVD）来实现这一方法。内容涉及统计学和数据分析的应用，包括人类遗传、面部识别和金融领域的案例。文章解释了如何...
图像压缩_SVD_pca_图像压缩_
09-30
SVD是一种线性代数中的矩阵分解方法，它可以将任何矩阵分解为三个正交矩阵的乘积：一个左奇异矩阵U，一个对角奇异值矩阵Σ，以及一个右奇异矩阵V的转置。在图像处理中，SVD可以用于分析图像矩阵的结构，并提取其主要...
1_SVD_pca_python_图像压缩_
10-02
2. **奇异值分解(SVD)**: SVD是线性代数中的一个基础概念，它可以将任何矩阵分解为三个矩阵的乘积。在图像处理中，SVD同样用于降维和数据压缩。通过保留最大的几个奇异值，可以有效地重构图像。Python的`numpy....
线性代数_线性代数_线性代数笔记_线性代数及实战读书笔记_线数_
10-04
线性代数是数学的一个重要分支，它在计算机科学、物理学、工程学、经济学等多个领域都有广泛应用。线性代数的核心概念包括向量、矩阵、行列式、线性方程组、特征值与特征向量、矩阵分解以及线性变换等。 首先，向量...
λ矩阵与矩阵的Jordan标准形
一般路过底层打工人的博客
11-09 1132
介绍λ矩阵、Smith形以及Jordan形的计算方法
第十一天 线性代数基础
IT深耕十余载，大道之简
11-07 1121
线性代数是数学的一个分支，广泛应用于计算机科学、物理学、工程学等领域。Python 提供了一些强大的库来进行线性代数计算，其中最著名的是 NumPy 和 SciPy。下面是一些线性代数的基础概念和如何在 Python 中使用这些库的示例。线性代数是数学的一个分支，主要处理线性关系问题。
线性代数中的核心数学知识
huanfeng_AI的博客
11-07 722
线性代数是数学的一个分支，主要处理线性关系问题，在机器学习中扮演着至关重要的角色。
【数学二】线性代数-向量-正交规范化、正交矩阵
WEL测试
11-09 177
【数学二】线性代数-向量-正交规范化、正交矩阵
工程数学线性代数（同济第七版）附册课后习题答案PDF
最新发布
zhentiya的博客
11-09 330
《线性代数附册 学习辅导与习题全解》是与同济大学数学科学学院编《工程数学 线性代数》第七版教材配套的教学辅导书，由同济大学作者团队根据教材内容和要求编写而成。
机器学习系列----岭回归（Ridge Regression）简介及实现
DK22151的博客
11-09 1002
岭回归（Ridge Regression），也被称为Tikhonov正则化，是一种线性回归的变体。它通过在普通最小二乘法（OLS）回归中加入L2正则化项来解决多重共线性问题，从而提高模型的泛化能力和鲁棒性。岭回归的核心思想是通过惩罚模型的参数，使得它们保持较小的值，从而减少过拟合的风险。岭回归适用于当特征之间高度相关时（即多重共线性问题），普通的线性回归模型可能会变得不稳定，并且模型的系数可能会变得非常大。岭回归通过加上一个正则化项，约束了模型参数的大小，从而使得模型更加稳健。
机器学习—Softmax
yn3535_的博客
11-09 437
它以为y=2，以此类推，如果y=j，那么损失函数loss=-log aj ，aj的负对数是一条曲线，如果aj非常接近1，那么会在曲线的右边，而且损失会很小，但如果aj只有50%的机会，就是就大了一点，aj越小损失越大，因此尽可能使aj大，尽可能接近损失小，注意，在这个损失函数中，每一个训练示例只能接收一个值，所以你最终计算出一个aj的负对数，只对aj的值，在那个特定的训练例子中，y=1的实际值是多少。Softmax回归算法是Logistic回归的推广，它是一种针对多类分类上下文的。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值