scikit-learn的PCA降维实战

最新推荐文章于 2024-07-10 09:13:03 发布
最新推荐文章于 2024-07-10 09:13:03 发布
阅读量464 收藏 1
点赞数
分类专栏： 特征工程
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yeziyezi1986/article/details/103183909
版权
本文介绍了如何在scikit-learn中使用PCA进行降维，探讨了n_components的设置，包括按比例和'MLE'方式，并解释了svd_solver的不同选项。PCA旨在提取主要成分，降低噪声，减少数据维度，同时最大化信息保留，以提升训练效率。PCA与特征选择的主要区别在于PCA是对特征的柔和处理和重新提取，而特征选择则是直接选取部分维度。
摘要由CSDN通过智能技术生成

1. 降维，降多少维度呢？降低的标准是什么:没有一个标准，这应该是一个超参数，通过pipeline和gridsearchCV进行搜索；

2.如何使用sklearn中PCA的API

a. n_components如何设置比例:n_components如何设置比例 n_components = 0.95 (表示提取95%的主成分)

n_components = 'mle' : API会根据MLE算法根据特征的方差分布情况，自己去选择一定数量的主成分特征来降维；

b. n_components即使设置比例为100%，也会对data进行处理，返回的data,维度跟原始data一样，但是每一维的主成分比例不断下降，通过pca.explained_variance_ratio_参数可以看到每一维所占的比例.

使用方法：

pca = PCA(n_components= 0.99)

pca.fit(X)

print(pca.explained_variance_ratio_) #降维后每一列方差占比

print(pca.explained_varia
最低0.47元/天 解锁文章
NanciZhao
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
纯Python和scikit-learn对比实现PCA特征降维
BrightLamp的博客
12-25 596
摘要 本文使用纯 Python 和 scikit-learn 对比实现PCA降维方法. 相关 原理和详细解释, 请参考: : 特征工程PCA降维方法的最大方差理论详解 文章索引 : https://blog.csdn.net/oBrightLamp/article/details/85067981 正文 1. PCA 类 文件目录 : vanilla_nn/pca.py import numpy ...
机器学习代码实战——PCA（主成分分析）
12-22
文章目录1.主成分分析基本概念2.代码 1.主成分分析基本概念 2.代码 导入必要的库 import pandas as pd import numpy as np from sklearn.datasets import load_iris #sklearn中导入load_iris数据 import matplotlib.pyplot as plt from sklearn.preprocessing import StandardScaler %matplotlib inline 加载数据，构建DataFrame iris = load_iris() #加载数据集 df =
【机器学习】使用scikitLearn对数据进行降维处理：PCA法及增量训练
种一棵树最好的时间是十年前，其次是现在
09-25 1089
对于机器学习而言，降维意味着丢失原始数据的部分不重要的特征，从这个角度而言，降维使数据的信息丢失，会限制算法潜在的最高准确度，但对于某一种固定的算法，它有望在数据量恒定下，通过降维预处理提升算法的准确性，算法准确率是否获得提升，与数据集自己的特性高度相关。投影优劣的评判方法为：原始数据在经轴投影后，原始数据与投影数据求均方距离，该距离越小，投影效果越好，原始数据经投影后，丢失的信息越少。是指，高维数据沿某个轴进行垂直投影，投影后，原数据对应的该轴维度消失，达到对数据进行降维的效果。
【机器学习】主成分分析（PCA）：数据降维的艺术
最新发布
鑫宝的博客
07-10 1856
​在数据科学和机器学习领域，处理高维数据是一项挑战。随着维度的增加，数据的复杂性和计算成本也随之上升，这便是所谓的“维度灾难”。主成分分析（Principal Component Analysis，PCA）作为一种经典的数据降维技术，通过寻找数据中的主要变化方向，将高维数据投影到低维空间，从而在保留数据主要信息的同时，简化数据结构，提升算法效率。本文将深入探讨PCA的工作原理、步骤、应用场景以及优缺点，旨在为读者提供一份全面的PCA指南。
[Python] 什么是PCA降维技术以及scikit-learn中PCA类使用案例（图文教程，含详细代码）
老狼工作室的博客
01-30 2814
本文主要介绍了什么是PCA降维技术以及scikit-learn中PCA函数及其使用案例（含详细代码和图文）。
scikit-learn_Scikit Learn-使用PCA减少维度
cunzai1985的博客
09-22 357
Scikit Learn-使用PCA减少维度 (Scikit Learn - Dimensionality Reduction using PCA) Advertisements 广告 Previous Page 上一页 Next Page 下一页 Dimensionality reduction, an unsupervised machine learni...
Mastering Machine Learning With scikit-learn.pdf 中文版
12-05
《Mastering Machine Learning With scikit-learn》是一本深入实践的指南，它将带领读者通过scikit-learn掌握机器学习的核心概念和技术，提升数据分析和预测能力，对于希望在机器学习领域深入研究或提升实战技能的人...
Hands-On Machine Learning with Scikit-Learn and TensorFlow 英文 高清pdf
04-17
《Hands-On Machine Learning with Scikit-Learn and TensorFlow》是一本深受全球数据科学家和机器学习工程师喜爱的实战指南。这本书深入浅出地介绍了机器学习的基本概念和技术，并重点讲述了如何使用Python库Scikit...
scikit-learn Cookbook 附带源代码
07-19
《scikit-learn Cookbook 附带源代码》是一本深入探讨机器学习库scikit-learn的实战指南，它为读者提供了丰富的示例和详细的代码，旨在帮助开发者掌握这个强大工具的精髓。scikit-learn是Python中最受欢迎的机器学习...
《机器学习实战：基于Scikit-Learn、Keras和TensorFlow第2版》-学习笔记（8）：降维
Morganfs的博客
05-08 1278
· Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow, 2nd Edition, by Aurélien Géron (O’Reilly). Copyright 2019 Aurélien Géron, 978-1-492-03264-9. · 《机器学习》周志华 · 环境：Anaconda（Python 3.8） + Pycharm · 学习时间：2022.05.07~2022.05.08 第八章 降维 许多机器学习问.
用sklearn进行PCA降维——基于python语言
weixin_46838605的博客
03-22 1万+
1. sklearn的PCA类 在sklearn中，与PCA相关的类都在sklearn.decomposition包中，主要有： sklearn.decomposition.PCA 最常用的PCA类，接下来会在2中详细讲解。 KernelPCA类，主要用于非线性数据的降维，需要用到核技巧。因此在使用的时候需要选择合适的核函数并对核函数的参数进行调参。 IncrementalPCA类，主要解决单机内存限制。有时候样本量可能是上百万，维度可能也是上千，直接拟合数据可能会让内存爆掉， 此时可以用Incremen
PCA中n_components的设置
weixin_41857483的博客
11-11 1万+
SVD使用奇异值作为信息量的衡量指标 SVD使用奇异值分解来找空间V，降维时，它会通过一些数学方法将特征矩阵X分解成三个矩阵：U∑VTU\sum V^{T}U∑VT；UUU和VTV^{T}VT是左奇异矩阵和右奇异矩阵，也是辅助矩阵，∑\sum∑是对角矩阵(对角线有值，其余为0)但对角线上的值是奇异值。 ...
sklearn的系统学习——PCA降维（案例及完整python代码）
weixin_44904136的博客
08-10 6335
在实际操作数据集的过程中，难免会遇到很多高维特征的数据，计算量也会暴增。为了在减少计算量的同时提高算法准确率，可尝试降维。下文将列出三个案例，分别是人脸识别、降噪和处理手写数据集。，即主成分分析方法，是一种使用最广泛的数据。...
python 中 任务 6.1 使用sklearn 转换器处理数据(划分训练集,测试集,PCA降维) 学习笔记1
微信公众号（年更选手）：数据闲逛人 | Github开源项目：数分/数挖study路线 https://github.com/jc-dian/python_data_analysis
12-21 4007
文章目录任务 6.1 使用sklearn 转换器处理数据6.1.1 加载datasets模块中的数据集datasets模块常用数据集的加载函数与解释如下表所示。代码 6-1 加载breast_cancer 数据集代码 6-2 sklearn 自带数据集内部消息获取6.1.2 将数据集划分为训练集和测试集常用划分方式K折交叉验证法代码 6-3 使用train_test_split划分数据集6.1.3 使用 sklearn 转换器进行数据预处理与降维sklearn 转换器三个方法sklearn转换器代码 6-4
图像处理：PCA主成分分析
ye1256的博客
03-17 1473
数据降维：PCA 可以将高维数据降维到低维空间中，从而方便后续的数据分析和可视化。例如，可以将具有多个变量的数据集降维到仅有几个主成分，而这些主成分包含了原始数据的大部分信息。去除数据噪声：通过PCA去除数据中的噪声，可以提高模型的预测准确度和稳定性。PCA 可以识别出数据中最相关的信息并过滤掉不相关的信息，从而提高数据的质量和准确性。数据可视化：由于 PCA 能够将高维数据降维到低维空间，因此可以将数据可视化为二维或三维图形。特征提取：PCA 可以识别出数据中最重要的特征，即主成分。
【机器学习】使用scikitLearn对数据进行降维处理：流形学习及局部线性嵌入LLE及其它降维技术
种一棵树最好的时间是十年前，其次是现在
09-26 717
PCA的最大特点是可以消除远数据中无用的维度，这是因为PCA是稀疏假设，如果原数据集无用的维度很少，降维会造成较高的信息损失。（如2维曲面在3维空间中卷曲，2维曲面的局部，可以视为是2维的。其思路为，取某实例点附近的若干点，将该实例点做若干点的线性表示，然后寻找可以最好地保留这些局部关系的低维表示形式。然后使用下式，下式中z为降维后x对应的实例，该式的精神是固定线性表示的权重，寻找新实例z的最佳位置。LDA的一个非常大的好处是，最适用于做分类问题的预处理步骤，它使不同的类之间的距离保持尽可能的远。
PCA-特征提取
热门推荐
蜗牛
05-22 4万+
介绍在这篇文章中，我们讨论主成分分析（PCA）是如何工作的，以及它如何被用来作为分类问题的降维技术。在这篇文章的末尾，出于证明的目的提供了Matlab源代码。在前面的文章中，我们讨论了所谓的维数诅咒，表明在高维空间分类器倾向于过度拟合训练数据。接下来产生的问题是哪些特征应该保留，哪些应该从高维特征向量中删除。如果此特征向量的所有特征是统计独立的，可以简单地从这个向量中消除最小的判别特征。通过各种贪婪
scikit-learn实战机器学习
其次，无监督学习也是 scikit-learn 的强项，包括聚类（如K-means、DBSCAN）、降维（如主成分分析PCA、t-SNE）和异常检测。这些技术在市场细分、图像分析和网络入侵检测等领域有着广泛应用。 此外，scikit-learn 还...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值