每天五分钟机器学习：将PCA算法降维的数据进行升维恢复

最新推荐文章于 2024-07-18 17:29:55 发布
最新推荐文章于 2024-07-18 17:29:55 发布
阅读量1.9k 收藏 2
点赞数
分类专栏： 每天五分钟玩转机器学习算法 文章标签： 算法 人工智能 PCA 压缩
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/huanfeng_AI/article/details/128357754
版权
本文探讨PCA算法如何将数据从高维降维到低维，并讲解如何利用PCA实现低维数据到原始高维数据的近似恢复，确保重构后的数据与原始数据接近。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本文重点

前面我们已经学习了PCA算法，他能完成数据的压缩，那么是否可以将压缩过的数据恢复到近似原始高维度的数据吗？

高维降维到低维

 

低维恢复到高维

 

此时Xappox≈x，Xappox就相当于回到了最初的维度了

根据PCA的意图，投影的平方误差不能太大，也就是说Xapprox将会与最开始x很接近，我们称这一过程为原始数据的重构，可以在压缩过的数据重构出原始高维数据x。

机器学习_数据升维_多项式回归代码_保险案例数据说明_补充_均匀分布_标准正太分布---人工智能工作笔记0038
添柴程序猿的专栏
05-27 526
np.random.rand(m,1)注意这里获取的是100行,一维度的数据,因为m是100,这里的1表示数据的维度,这个数据还是0到1的包含0不包含1,这个是符合均匀分布的100个数据。degree=i表示阶数,表示,多项式展开的时候按照几阶展开,可以看到这里的i,实际上就是,d={1:'g-',2:'r+',10:'y*'},中的1,2,10对吧 然后。np.random.randn(m,1) 表示,100行符合正太分布的一维度的数据,其实就是u=0,O=1方差是1的x的数据,一维的对吧.
python机器学习12:数据“升维”
qq_28286027的博客
06-30 3436
#1.向数据集添加交互式特征 在实际应用中，常常会遇到数据集的特征不足的情况，要解决这个问题，就需要对数据集的特征进行扩充。这里我们介绍两种在统计建模中常用的方法—交互式特征（Interaction Features）和多项式特征（Polynomial Features）。现在这两种方法在机器学习领域也非常普遍。 #####1.交互式特征的定义： 顾名思义，交互式特征是在原始数据特征添加交互项，使...
机器学习：升维（Polynomial Regression）
ma_no_lo的博客
04-26 2376
升维的概念，目的，以及多项式回归。附有可视化的拟合曲线以及他们之间的区别
机器学习三 归一化_正则化_多项式升维
Starry-SkyJing的博客
01-03 2065
一. 归一化 1.归一化的目的 把数据变为（0，1）之间的数 ,使得在梯度下降的过程中，不同维度的θ值（或w）参数可以在接近的调整幅度上。保持数据在迭代过程中的θ值幅度基本一致。 2.常用的归一化类别 最大值最小值归一化 参数解释： Xj min: X 矩阵中第 j 列特征值的最小值， Xj max: X 矩阵中第 j 列特征值的最大值， Xij : X 矩阵中第 i 行第 j 列的数值， X*i,j : 归一化之后的 X 矩阵中第 i 行第 j列的数值。 标准归一化 包含了均值归一化和方差归一化
机器学习——多元线性回归升维
qq_50442534的博客
11-24 1604
机器学习线性回归中面对非线性特征的数据如何利用线性回归的升维操作解决，详细介绍了其本质与代码实现。
机器学习sklearn-PCA降维算法
weixin_44376037的博客
12-30 9347
1 概述 1.1 什么叫“维度” 对于数组和Series来说，维度就是功能shape返回的结果，shape中返回了几个数字，就是几维。 针对每一张表，维度指的是样本的数量或特征的数量，一般无特别说明，指的都是特征的数 量。 对图像来说，维度就是图像中特征向量的数量。特征向量可以理解为是坐标轴。 **降维算法中的”降维“，指的是降低特征矩阵中特征的数量。**降维的目的是为了让算法运算更 快，效果更好，但其实还有另一种需求：数据可视化。 1.2 sklearn中的降维算法 sklearn中降维算法都被包括在模块
（机器学习）sklearn降维算法PCA（用几个小案例详解PCA降维）
热门推荐
m0_46177963的博客
12-04 1万+
本文主要参考菜菜的机器学习课程及其课件 本篇博文基本不涉及PCA的任何数学过程，仅讲解在sklearn中如何调用相关类实现PCA降维 目录1.维度和降维的定义1.1维度的定义1.2降维的含义1.3降维的步骤2.PCA和SVDclass sklearn.decomposition.PCA2.1重要参数n_components2.1.1案例：高维数据的可视化2.1.2 最大似然估计自选超参数n_components2.1.3 按信息量占比选超参数n_components2.2重要参数svd_solver 与 r
【进阶版】 机器学习之主成分分析（PCA）、MDS算法、核化线性降维 （16）
迷茫与徘徊只会让你陷入绝境，欢迎私信博主，带你开始提升变现价值！
08-23 1714
机器学习算法知识、数据预处理、特征工程、模型评估——原理+案例+代码实战机器学习之Python开源教程——专栏介绍及理论知识概述机器学习框架及评估指标详解Python监督学习之分类算法的概述数据预处理之数据清理，数据集成，数据规约，数据变化和离散化特征工程之One-Hot编码、label-encoding、自定义编码卡方分箱、KS分箱、最优IV分箱、树结构分箱、自定义分箱特征选取之单变量统计、基于模型选择、迭代选择机器学习八大经典分类万能算法——代码+案例项目开源、可直接应用于毕设+科研项目。
机器学习——PCA降维
weixin_74731967的博客
06-18 3269
①降维(Dimensionality Reduction，DR)是指采用线性或者非线性的映射方法将高维空间的样本映射到低维空间中。②降维获得低维空间的数据等价表示，实现高维数据的可视化呈现。-仅仅需要以方差衡量信息量，不受数据集以外的因素影响。-各主成分之间正交，可消除原始数据成分间的相互影响的因素。-计算方法简单，主要运算是特征值分解，易于实现。
PCA实验：对data.csv文件中的数据实现PCA操作并实现维度恢复
rmk123456的博客
06-04 460
【代码】PCA实验：对data.csv文件中的数据实现PCA操作并实现维度恢复。
升维
chbxw
05-04 778
1.1、标签， 列名1：值， 列名2：值 … label c1 c2 c3 1.2、样例数据 1 c1:1 c2:2 c3:3 -1 c1:5 c2:3 c3:4 -1 c1:1 c2:2 c3:4 1.3 特征 特征 值 c1:1 1 c2:2 2 c3:3 3 c1:5 4 c2:3 5 c3:4 6 1.4、将每个样本在所有维度观察，如果有这个特征，设置为1， 没有这个特...
数据回归算法 | Matlab实现PCA回归预测模型
天天酷科研的博客
08-06 431
数据回归算法 | Matlab实现PCA回归预测模型
机器学习入门系列之PCA降维
夫唯不争，故天下莫能与之争。
04-12 968
目录 前言 PCA降维原理 PCA如何降维 Sklearn实现 总结 前言 今天来说说机器学习中一个比较重要的概念——主成分分析(Principal Component Analysis)，简称PCA。根据字面意思强行解释一波，就是对主要的成分分析。专业一点就是：在减少样本维数的同时尽可能的保留原样本的信息，仅保留样本中所存在的主要特性，从而可以大大节省空间和数据量。 ...
Python：PCA降维与还原详解
日常学习与专研的记录
07-18 1919
本文介绍python的pca降维与还原。
PCA数据降维、数据重建计算步骤
jngwe的博客
12-11 3910
PCA基本原理：
机器学习知识点总结
xiaozhshi的博客
05-05 524
1、1*1卷积的作用1. 实现跨通道的交互和信息整合2. 进行卷积核通道数的降维和升维2、L1和L2正则化L0：计算非零个数，用于产生稀疏性，但是在实际研究中很少用，因为L0范数很难优化求解，是一个NP-hard问题，因此更多情况下我们是使用L1范数L1：计算绝对值之和，用以产生稀疏性，因为它是L0范式的一个最优凸近似，容易优化求解L2：计算平方和再开根号，L2范数更多是防止过拟合，并且让优化求解...
机器学习——降维
qq_43492938的博客
12-05 806
目标1：数据压缩
python实现PCA降维
络小绎
10-28 1万+
本文包括两部分，使用python实现PCA代码及使用sklearn库实现PCA降维，不涉及原理。 总的来说，对n维的数据进行PCA降维达到k维就是： 对原始数据减均值进行归一化处理； 求协方差矩阵； 求协方差矩阵的特征值和对应的特征向量； 选取特征值最大的k个值对应的特征向量； 经过预处理后的数据乘以选择的特征向量，获得降维结果。 实验数据 数据data.txt使用[2]中编写的数据，以下是部分数据截图： shape为(31, 4)，即31条特征数为4的数据。 使用py..
数据降维算法 | Matlab基于核主成分分析(KPCA)的回归数据降维可视化
前程算法屋的博客
04-25 232
数据降维算法 | Matlab基于核主成分分析(KPCA)的回归数据降维可视化
降维和升维
最新发布
03-31
### 降维与升维的概念 在机器学习领域，降维是指通过特定的技术减少数据集中特征的数量，从而降低维度空间的复杂度。这一过程通常用于去除冗余信息并提高计算效率[^1]。而升维则是指增加原始数据中的特征数量或将其映射到更高维度的空间中，以便更好地捕捉潜在模式。 --- ### 常见的降维方法及其应用 #### 主成分分析 (PCA) 主成分分析是一种线性降维技术，它通过寻找新的正交坐标轴来表示数据的最大方差方向。这种方法能够有效保留数据的主要结构特性，同时显著减少噪声的影响[^2]。 适用场景：图像压缩、基因数据分析等领域。 #### t-SNE t-SNE 是一种非线性的降维算法，特别适合于高维数据可视化。其核心思想是在低维空间中尽可能保持样本之间的相似关系。尽管该方法不适用于大规模数据集，但它能很好地揭示复杂的簇状分布[^3]。 ```python from sklearn.manifold import TSNE X_embedded = TSNE(n_components=2).fit_transform(X_high_dimensional) ``` #### LDA（线性判别分析） LDA 的目标是找到最大化类间差异最小化类内差异的方向来进行投影。因此，它是监督学习下的经典降维工具之一，在分类任务中有广泛应用价值。 ```python from sklearn.discriminant_analysis import LinearDiscriminantAnalysis as LDA lda_model = LDA(n_components=2) X_lda = lda_model.fit_transform(X, y) ``` --- ### 升维的应用及实现方式 虽然实际工程更常关注如何简化问题而非扩展维度，但在某些情况下也需要引入额外变量或将原输入转换成更加丰富的表达形式： #### 多项式特征展开 多项式特征生成器允许我们将简单的一次函数转变为二次甚至更高阶的形式，这有助于构建更为灵活的回归模型。 ```python from sklearn.preprocessing import PolynomialFeatures poly = PolynomialFeatures(degree=2) X_poly = poly.fit_transform(X_original) ``` #### 核技巧(Kernel Trick) 核方法本质上就是把原本难以分离的数据点投射至无限高的希尔伯特空间后再做进一步处理。SVM 中常用的 RBF Kernel 就是一个典型例子。 ```python from sklearn.svm import SVC svc_rbf = SVC(kernel='rbf') svc_rbf.fit(X_train, y_train) ``` --- ### 总结对比表 | 方法 | 类型 | 特点 | |------------|----------|----------------------------------------------------------------------------------------| | PCA | 线性降维 | 寻找最大方差方向 | | t-SNE | 非线性降维| 更注重局部邻近关系 | | LDA | 监督降维 | 结合标签优化 | | 多项式变换 | 显式升维 | 手动构造新属性 | | 核函数 | 隐式升维 | 自动完成映射 | ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

每天五分钟玩转人工智能

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值