数据特征处理pca降维-小结

于 2022-03-24 17:56:59 发布
阅读量3.9k 收藏 1
点赞数
分类专栏： python机器学习 文章标签： 回归 机器学习 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lixia0417mul2/article/details/123717585
版权

1.降维的主要目的是为了减少训练样本的时间，只保留重要的特征，去掉一些无关紧要的特征，至于是去掉哪些特征，保留哪些特征，
这个就是pca要做的事情了，类似以下的例子：
日期 湿度 温度 是否购买衣服
2022 9 20 是
2022 19 26 是
2022 15 26 否
是否购买衣服与否和日期关系不大，和温度和湿度的关系比较大，这个结论从数学意义上说就是去掉方差小的特征，保留
方差比较大的特征，这就是PCA的目的 --顺便说一句，其实PCA降维后，最终的特征那里并不能和原来的特征一一对应，
这个结果是不可解释的
2.怎么大概确定降级到的维度K？
对于spark实现来说，使用了PCA进行数据转换后，有一个model.explainedvariance可以输出从第一成分到第K个成分的方差比例，
可以从这个方差比例中看出来，从比如哪个M成分开始，方差的比例已经很小了，那么就可以取M作为降级到的最终维度.

lixia0417mul2
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
特征工程之特征选择(7)----降维算法PCA重要参数
weixin_43776305的博客
06-09 2831
文章目录序言关于参数n_components的简单概述准备工作n_components参数使用示例整数型n_components可解释性方差曲线n_components=mle百分比型n_componentssvd_solver参数简述random_state参数总结 序言 前面一篇博文，我们已经了解了PCA的基本使用方法，但是对其中的参数，属性，我们还没有深入了解，这篇文章，我们将深入了解PCA的参数 关于参数n_components的简单概述 n_components参数决定了我们降维后需要保留的参数的
python机器学习之降维算法PCA(高维数据的可视化,鸢尾花案例)
sjjsaaaa的博客
12-01 1万+
高维数据的可视化 n_components是我们降维后需要的维度，即降维后需要保留的特征数量，降维流程中第二步里需要确认的k值，一般输入[0, min(X.shape)]范围中的整数。 调用库和模块 import matplotlib.pyplot as plt from sklearn.datasets import load_iris from sklearn.decomposition import PCA 提取数据集 iris = load_iris() x = iris.data y = iri
使用PCA对特征进行降维
APTX459770648的博客
01-24 4234
文章目录一、PCA是什么？二、使用方法1.引入库2.数据处理3.运用PCA进行降维总结 一、PCA是什么？ 在大量数据中，很多特征之间可能都存在着一定的相关性。再者，特征划分的越细，特征数量越多还可能导致过拟合的情况出现。因此，在特征数量众多的情况下，可以采取一定的手段对特征进行降维。主成分分析（Principal Component Analysis，简称PCA）是最常用的一种降维方法。该方法可以尽可能的保留大量特征中的主要信息，对特征数量进行简化，从而简化模型的计算。 接下来用Kaggle中的Ins.
特征工程(五): PCA 降维
weixin_41643439的博客
05-28 874
来源：https://mp.weixin.qq.com/s/Zdb_fIb5-zpvq4sTeu3Dww 通过自动数据收集和特征生成技术，可以快速获得大量特征，但并非所有这些都有用。我们前面讨论了基于频率的滤波和特征缩放修剪无信息的特征。现在我们来仔细讨论一下使用主成分分析（PCA）进行数据降维。 本章标志着进入基于模型的特征工程技术。在这之前，大多数技术可以在不参考数据的情况下定义。对于实例中，基于频率的过滤可能会说“删除所有小于n的计数“，这个程序可以在没有进一步输入的情况下进行数据本身。 另.
Python数据预处理：使用 PCA 进行降维 读入 heart.csv 文件，用 PCA 方法进行降维，要求输出特征向量、维度压缩的数量（依 据是什么）以及降维后的结果。
missionnn的博客
11-07 3194
使用 PCA 进行降维 读入 heart.csv 文件，用 PCA 方法进行降维，要求输出特征向量、维度压缩的数量（依 据是什么）以及降维后的结果。 附上源代码： import pandas as pd import numpy as np from sklearn.decomposition import PCA data = pd.read_csv(r'heart.csv',header=None,delimiter=' ') pca = PCA() pca.fit(data) print('特征.
【机器学习】降维——PCA（非常详细）
hjj1802100的博客
04-28 2612
PCA（Principal Component Analysis） 是一种常见的数据分析方式，常用于高维数据的降维，可用于提取数据的主要特征分量。 PCA 的数学推导可以从最大可分型和最大重构性两方面进行，前者的优化条件为划分后方差最大，后者的优化条件为点到划分平面距离最小。由于基于最大重构性的 PCA 其与 LDA（线性判别法）的数学推导有异曲同工之处，所以我只从最大可分性进行证明，...
SPSS--Friedman检验步骤
weixin_44549563的博客
09-26 1万+
一.Friedman检验原理 二.使用SPSS进行Friedman检验 步骤 操作 （1） 导入数据：以3X29维数据为例，即有三中对比数据，每个数据维29维 （2） 双击变量区域切换界面更改对比数据名称，改完名称后双击数字区域返回原始界面 （3） 数据检验，点击分析—非参数检验—旧对话框—K个相关样本 （4） 分别添加待检验数据到右侧数据框中，选择弗莱德曼，点击确定 （5） 数据生成 三.表格数据指
python导入鸢尾花数据集，使用主成分分析函数对鸢尾花数据集降维数据集和原始数据集分别进行线性判别比较分析的准确率
最新发布
01-21
PCA通过对数据进行旋转和缩放，找到新的坐标轴（主成分），使得数据在新坐标轴上的方差最大，从而达到降维的目的。 4. **线性判别分析比较**：对降维后的数据集和原始数据集分别进行线性判别分析（LDA），计算并...
30-提交-课程小结.pdf
09-22
无监督学习是机器学习的一个重要分支，它处理的是未标记的数据。无监督学习的任务包括聚类和降维。聚类是一种将数据按照相似性划分到不同组别中的方法，如K-Means和DBSCAN。K-Means算法基于迭代优化，寻找使得所有...
主特征分析（PCA）解析
03-21
- **线性变换**：PCA只能处理数据之间的线性关系，对于非线性的数据分布可能无法很好地提取关键特征。 - **信息损失**：尽管PCA试图最大限度地保留信息，但在降维过程中仍然会不可避免地损失一些细节。 - **解释性...
SparkML算法详解(关于DataFrame的API操作)--数据挖掘(Scala与Java版)
06-28
- 小结：总结数据挖掘的关键点和挑战。 #### 机器学习过程中的问题 - 数据不平衡问题：处理类别不平衡的情况。 - 模型过拟合与欠拟合：避免模型过于复杂或过于简单。 - 特征选择与工程：选择合适的特征进行模型...
sklearn与机器学习系列专题之降维（一）一文弄懂PCA特征筛选&降维
weixin_45234485的博客
11-09 1659
sklearn与机器学习系列专题之降维（一）一文弄懂PCA特征筛选&降维1.标准PCA2.非负矩阵分解3.稀疏PCA4.核PCA下篇预告 伴随着通信与互联网技术的不断发展，人们收集和获取数据的能力越来越强，而这些数据已呈现出维数高、规模大和结构复杂等特点，当数据量非常大时，会面临维度灾难，即:1.在高维情况下，数据样本稀疏；2.涉及距离、内积的计算变得困难。缓解灾难的一个重要途径就是降维。 本篇博客主要以PCA为例，讲解sklearn实现降维。 1.标准PCA 如下图所示，我们用两个特征——一个是
PCA降维展示数据
haoxinhaoxin的博客
02-21 671
%-------------------------------------------------------------------------- % pca 降维展示数据 方法1: 直接使用matlab pca函数，最大的特征向量在第一列 % 展示降1维的数据时候要用testSet_centered作为输入 %----------------------------------------...
sklearn 数据预处理，数据降维之特征选择，PCA主成分分析
ck784101777的博客
07-08 5250
目录 1.数据集的维度 2.什么是数据集降维 3.数据降维的方式 4.特征选择 1.特征选择的原因 2.特征选择是什么 3.特征选择的主要方法 4.Filter（过滤式）:VarianceThreshold 5.PCA主成分分析 sklearn对pca的支持 1.数据集的维度 何为维度？对于一组数据集，其特征的数量即为改组数据的维度；如[90,2,10,40]这样一组数据的维度即为4 2.什么是数据集降维 如图所示，左边的一组数据为三维数据，假设其三个特征为x,y,z，假设不考.
[Machine Learning]PCA 算法 python 实现
Murphy_CoolCoder的博客
12-20 697
PCA ， principal component analysis, 即主成分分析算法， 是机器学习中一种常用的对训练样本进行降维的算法。具体推导过程这里不再赘述。简而言之，它是根据训练样本的特征(feature)分布特性，找到特征方差最大的特征向量组k，来替代原有的特征数n作为训练样本的表征（基），来重新描述训练样本，从而达到减少特征（即降低维度）目的。
PCA-特征提取
热门推荐
蜗牛
05-22 4万+
介绍在这篇文章中，我们讨论主成分分析（PCA）是如何工作的，以及它如何被用来作为分类问题的降维技术。在这篇文章的末尾，出于证明的目的提供了Matlab源代码。在前面的文章中，我们讨论了所谓的维数诅咒，表明在高维空间分类器倾向于过度拟合训练数据。接下来产生的问题是哪些特征应该保留，哪些应该从高维特征向量中删除。如果此特征向量的所有特征是统计独立的，可以简单地从这个向量中消除最小的判别特征。通过各种贪婪
使用PCA对特征数据进行降维
dazhi_1314的专栏
04-23 5869
使用PCA对特征数据进行降维 2017年3月9日 BY 蓝鲸 1 COMMENT PCA（Principal Component Analysis）是机器学习中对数据进行降维的一种方法。主要目的是在不丢失原有数据信息的情况下降低机器学习算法的复杂度，及资源消耗。本篇文章将使用python对特征进行降维。 PCA通过线性变换将原始数据中可能相关的数据转换为一组线性不
Python PCA(主成分分析法)降维的两种实现
ISHTAR的博客
01-12 1万+
PCA降维，一般是用于数据分析。它的作用是把一个高维的数据在保留最大信息量的前提下降低到一个低维的空间，从而使我们能够提取数据的主要特征分量，从而得到对数据影响最大的主成分，便于我们对数据进行分析。 假设下图是学生的各科成绩： 从上图，我们可以看出很明显的看出，数学、英语、物理这三门科目对于一个学生的总成绩的影响起着主要作用。对这三门学科计算期望E(x)和方差R(x)，再由这两个关系计算标准差，可以看出英语的标准差最小即离散性最小，数学的标准差最大即离散性最大。所以...
如何使用决策树处理pca降维后的数据
06-12
使用决策树处理PCA降维后的数据与处理原始数据的决策树类似，但需要注意以下几点： 1. 在使用PCA降维后，特征数可能会减少，因此需要根据实际情况选择合适的决策树算法。例如，如果特征数很少，可以使用ID3算法；如果特征数较多，可以使用C4.5或CART等算法。 2. 由于PCA降维后的数据已经是经过处理的数据，因此不需要进行特征选择和特征提取等预处理步骤。 3. 在训练决策树时，需要使用PCA降维后的数据作为输入数据，并将相应的标签作为输出数据。可以使用基于信息熵或基尼指数等划分准则进行分裂，以构建决策树模型。 4. 在使用决策树进行预测时，需要先对输入数据进行PCA降维处理，然后将结果输入到训练好的决策树模型中进行预测。 需要注意的是，PCA降维是一种有损压缩方法，可能会导致部分信息丢失，因此在使用决策树处理PCA降维后的数据时，需要考虑数据的可解释性和预测性能等因素。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值