用Python的sklearn库进行PCA（主成分分析）

最新推荐文章于 2025-03-21 10:36:08 发布

puredreammer

最新推荐文章于 2025-03-21 10:36:08 发布

阅读量10w+

点赞数 48

分类专栏：数据挖掘&人工智能文章标签：机器学习 PCA

本文链接：https://blog.csdn.net/puredreammer/article/details/52255025

版权

在python的sklearn的库里面集成很多机器学习算法的库，其中也包括主成分分析的方法。

1.PCA算法的原理：

PCA主要是用来数据降维，将高纬度的特征映射到低维度的特征，加快机器学习的速度。比如在三维空间里面有一个薄饼状的三维物体，由于薄饼的厚度相对于薄饼的直径要小很多很多，故我们在平时的时候就说这个薄饼是圆的，而不说它的是圆柱的，这就是无意识中把描述薄饼的特征从三维降到二维了。（由于学识疏浅，这个例子可能不是特别恰当，还请谅解）。

下面看这个图片（该图片来自台湾大学李宏毅老师的ppt）：

在这个图片中，我们用两个特征，一个是attack，一个是defense来描述样本。但是如下图所示，我们作了两条线，可以看出在右边这条线上有较大的方差，而左边这条线的方差比较小，我们知道，方差越大，所包含的信息就越多。那么如何把这两个特征进行降维呢，降维要尽可能保持原始数据的信息，故要取使方差最大的一个维度（本例中从二维降到一维）。假设右边这条线的方差最大，我们就可以把这条线所在的直线当作降维后的一个维度。也就是二维降到一维后，这个一维空间的x轴所在的位置。那么这个降维后的x轴代表着什么呢？在本例中

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

puredreammer

关注关注

48
点赞
踩
359

收藏

觉得还不错? 一键收藏
19
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

【python 机器学习】sklearn主成分分析（PCA）

m0_62599305的博客

02-12

906

假设你拍了一张有很多人站在一起的合影，这些人可能站得很近，也可能站得很远。主成分分析就像是找出大家站得最远的方向，然后你可以把这些人的站位缩短成一个更简单的方向，方便理解和处理。主成分分析（PCA）是一种强大的降维技术，通过将数据映射到方差最大的方向，能够有效地减少数据的维度，同时保留数据中的主要信息。在使用sklearn实现 PCA 时，我们通常需要先对数据进行标准化，然后应用PCA类进行降维。通过选择合适的主成分，可以提高模型的训练效率，减少计算开销，并提升模型的性能。

pca python sklearn_用Python (scikit-learn) 做PCA分析

weixin_34135138的博客

01-28

713

原始图像(左)保留不同数量的方差我的上一个教程讨论了使用Python的逻辑回归(为了理解使用PCA进行数据可视化的价值，本教程的第一部分介绍了应用PCA后对IRIS数据集的基本可视化。第二部分使用PCA来加速MNIST数据集上的机器学习算法(逻辑回归)。现在，让我们开始吧！本教程中使用的代码如下所示：“PCA的数据可视化的应用用PCA来加速机器学习的计算”PCA在数据可视化的应用对于许多机器学习应...

19 条评论您还未登录，请先登录后发表或查看评论

用python进行主成分分析（PCA）

TSzero的博客

05-10

1万+

一、简介这篇文章简单介绍了PCA的原理、思想和一些定义，本文将介绍如何用python进行PCA。二、实现 2.1 标准化数据在对数据进行PCA前，需要先将数据进行中心标准化，即使特征的平均值为000，方差为111。 from sklearn.preprocessing import StandardScaler StandardScaler(*, copy=True, with_mean=True, with_std=True) 使用说明：实例化：scaler = StandardScale

python实现PCA降维

qq_27802435的博客

10-08

2万+

概述本文主要介绍一种降维方法，PCA（Principal Component Analysis，主成分分析）。降维致力于解决三类问题。 1. 降维可以缓解维度灾难问题； 2. 降维可以在压缩数据的同时让信息损失最小化； 3. 理解几百个维度的数据结构很困难，两三个维度的数据通过可视化更容易理解。 PCA简介在理解特征提取与处理时，涉及高维特征向量的问题往往容易陷入维度灾难。随着数据...

【scikit-learn】sklearn.decomposition.PCA 类：主成分分析

最新发布

彬彬侠的博客

03-21

346

PCA（Principal Component Analysis，主成分分析）是 sklearn.decomposition 提供的一种线性降维技术，常用于数据降维、特征选择、可视化和噪声去除，广泛应用于模式识别、图像处理、数据可视化等领域。PCA 是一种线性降维方法，适用于特征选择、数据压缩、可视化等任务，通过主成分分析可以减少特征维度，同时尽量保留数据的方差。它特别适用于高维数据的可视化和降噪。

Python-sklearn之PCA主成分分析

m0_43405302的博客

03-19

7851

文章目录写在前面一、PCA主成分分析1、主成分分析步骤2、主成分分析的主要作二、Python使用PCA主成分分析 写在前面作为大数据开发人员，我们经常会收到一些数据分析工程师给我们的指标，我们基于这些指标进行数据提取。其中数据分析工程师最主要的一个特征提取方式就是PCA主成分分析，下面我将介绍Python的sklearn库中是如何实现PCA算法及其使用。一、PCA主成分分析 什么是PCA主成分分析。百度百科给出如下定义： 1、主成分分析步骤对于一个PCA主成分分析，一般分为以下几个步骤：去除平均

sklearn主成分分析pca用python实现（多媒体实验二）

长门yuki

04-13

1719

原理建议看这篇博客：PCA的数学原理。写的非常清楚，弄明白实例就差不多懂了。但是弄明白不会写代码，那可以看看这个视频：Python 实战 PCA / 主成分分析（文刀出品）。过程很简单，总结如下：矩阵X的维度是(m,n)。表示m组数据，n维向量。 #即先处理数据先对x去均值。（是否标准化看情况） X_mean = np.mean(data, axis=0) sdata=(data-X_mean) 求协方差XTX^{T}XT的特征值(ew)和特征向量（ev)。调用np.linalg.e

Python 中的主成分分析 (PCA)

pythonandaiot的博客

01-04

7140

无监督学习什么是主成分分析 当我们执行主成分分析 (PCA) 时，我们希望找到数据集的主成分。令人惊讶不是吗？那么，数据集的主要组成部分是什么，我们为什么要找到它们，它们告诉我们什么？数据集的主成分是数据集中变化最大的“方向”（我假设您对术语方差有基本的了解。如果没有，请在此处查找。简单来说，第一个主成分是数据集是沿数据集变化最大的方向。考虑以下数据集，我在其上绘制了由不同颜色箭头表示的不同“方向”。你怎么看，哪个箭头指向数据集方差最大的方向？好吧，通过肉眼我们看到橙色箭头可能指向方差

机器学习 — 主成分分析(PCA)，python(sklearn)实现

pentiumCM的博客

04-19

3792

文章目录主成分分析一、概念二、内容参考资料 主成分分析 一、概念 主成分分析（Principal Component Analysis，PCA），是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。二、内容基本思想： 主成分分析是设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替...

python sklearn PCA 实例-主成分分析

rankiy的博客

08-21

1万+

python sklearn decomposition PCA 主成分分析 主成分分析（PCA） 1、主成分分析（Principal Component Analysis,PCA）是最常用的一种降维方法，通常用于高维数据集的探索与可视化，还可以用作数据压缩和预处理 2、PCA可以把具有相关性的高维变量合成为线性无关的低维变量，称为主成分。主成分能够尽可能保留原始数据的信息 3、概念方差：用...

具体介绍sklearn库中：主成分分析（PCA）的参数、属性、方法

12-22

在Python的机器学习库sklearn中，PCA类提供了实现PCA所需的各种功能。 PCA类的参数主要有以下几个： 1. `n_components`: 它指定了要保留的主成分数量。可以是整数，表示保留前n个主成分；也可以是0到1之间的浮点数...

机器学习主成分分析算法 PCA—python详细代码解析（sklearn）

qq_45932996的博客

10-12

3297

在进行数据分析时，我们常常会遇到这样的情况：各个特征变量之间存在较多的信息重叠，也就是相关性比较强。就好比在研究一个班级学生的学习情况时，可能会收集到学生的语文成绩、数学成绩、英语成绩等多个特征变量。但往往会发现，语文成绩好的学生，数学和英语成绩也可能比较好，这就说明这些变量之间存在一定的相关性。这种情况在线性回归分析中被称为多重共线性关系。同时，如果我们的样本观测值数量较少，而选取的变量却很多，就会产生高维数据带来的 “维度灾难” 问题。

Python sklearn库实现PCA教程(以鸢尾花分类为例)

09-17

今天小编就为大家分享一篇Python sklearn库实现PCA教程(以鸢尾花分类为例)，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

主成分分析(PCA)python实现(含数据集)

12-15

主成分分析(PCA)python实现(含数据集)，结构清晰，适合初学者

主成分分析（PCA）Python代码.ipynb

03-12

PCA(Principal Component Analysis)，即主成分分析方法，是一种使用最广泛的数据降维算法。PCA的主要思想是将n维特征映射到k维上，这k维是全新的正交特征也被称为主成分，是在原有n维特征的基础上重新构造出来的k维特征。

Python之主成分分析

weixin_34280060的博客

12-22

9405

目的：  了解主成分分析、因子分析、判别分析、聚类分析的原理背景  掌握SAS语言进行多变量分析过程（princomp过程和factor过程）  掌握SAS语言进行判别分析 (discrim过程)  掌握SAS语言进行聚类分析（cluster过程，tree过程）引言：前面介绍SAS的基本统计分析功能。本章我们讲述用SAS进行多元统计分析。 SAS进行多元统计分析的过程包括: 第一类：多变量分析过程，包括princomp(主成分分析)、factor（因子分析）、cancorr(典型相关分析、mult

python,sklearn实现PCA

little_yan的博客

10-06

4857

本文使用的数据类型是数值型，每一个样本7个特征表示，所用的数据如图所示：图中A,B,C,D,E,F,G列表示六个特征，H表示样本标签。每一行数据即为一个样本的六个特征和标签。实现PCA算法的代码如下： from sklearn.decomposition import PCA as sklearnPCA from matplotlib import pyplot as plt im...

【python】sklearn中PCA的使用方法

热门推荐

人间不值得

07-09

12万+

from sklearn.decomposition import PCA PCA 主成分分析（Principal Components Analysis），简称PCA，是一种数据降维技术，用于数据预处理。 PCA的一般步骤是：先对原始数据零均值化，然后求协方差矩阵，接着对协方差矩阵求特征向量和特征值，这些特征向量组成了新的特征空间。 sklearn.decomposition.PC...

PCA（主成分分析法）的Python代码实现（numpy，sklearn）

qq_52300431的博客

03-14

4万+

PCA（主成分分析法）的Python代码实现（numpy，sklearn）语言描述算法描述示例1 使用numpy一步一步按算法降维 2 直接使用sklearn中的PCA进行降维语言描述 PCA设法将原来众多具有一定相关性的属性（比如p个属性），重新组合成一组相互无关的综合属性来代替原属性。通常数学上的处理就是将原来p个属性做线性组合，作为新的综合属性。 PCA 中的线性变换等价于坐标变换，变换的目的是使 n 个样本点在新坐标轴 y1y_1y1 上的离散程度（方差）最大，这样变量 y1

sklearn库中的主成分分析python实现

03-11

### 使用sklearn库在Python中实现主成分分析（PCA）为了利用 `sklearn` 库执行主成分分析 (PCA)，需先加载必要的 Python 模块，包括用于数值计算的 NumPy 和数据操作的 Pandas。此外，还需引入专门的数据预处理工具和 PCA 类本身： ```python import numpy as np import pandas as pd from sklearn.preprocessing import StandardScaler from sklearn.decomposition import PCA ``` 接着，应准备待分析的数据集。这通常涉及从文件读取数据，并选取合适的列作为特征矩阵的一部分[^2]。对于实际应用中的 PCA 实现，标准化输入数据是一个重要的前置步骤。这是因为不同尺度上的变量会影响最终的结果。通过 `StandardScaler()` 可以完成这一过程: ```python scaler = StandardScaler() X_scaled = scaler.fit_transform(X) ``` 创建 PCA 对象时可以指定所需的参数，比如要保留的主要分量数量 n_components 或者解释方差比例 threshold 等。这里展示了一个简单的例子，在该实例化过程中并未特别设定这些选项，默认情况下会返回所有可能的主成分[^1]: ```python pca = PCA() principalComponents = pca.fit_transform(X_scaled) ``` 最后一步是评估所获得的主成分的有效性和贡献度。可以通过访问属性 `.explained_variance_ratio_` 来查看各个主成分占总变异性的百分比；也可以绘制累积曲线来决定最佳维度数目的选择。 ```python print(pca.explained_variance_ratio_) plt.plot(np.cumsum(pca.explained_variance_ratio_)) plt.xlabel('Number of Components') plt.ylabel('Cumulative Explained Variance'); ``` 值得注意的是，早期版本的 scikit-learn 中存在名为 `RandomizedPCA` 的类，它提供了快速近似 SVD 分解的方式来进行降维。然而自 v0.19 版本之后已被移除并建议改用常规的 `PCA` 方法[^3]。