主成分分析-python机器学习实现(PCA)

最新推荐文章于 2024-12-03 15:43:51 发布
最新推荐文章于 2024-12-03 15:43:51 发布
阅读量1.5k 收藏 4
点赞数 1
分类专栏： python机器学习 - 用python深入机器学习的世界 文章标签： python 机器学习 数据分析
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44145222/article/details/105250172
版权
本文通过numpy和pandas详细介绍了如何实现主成分分析（PCA），包括数据标准化、获取协方差矩阵、特征向量和特征值排序、选择最大特征值的特征向量，以及使用PCA进行维度转换。同时，对比了使用scikit-learn库直接实现PCA的方法，强调PCA通常用于非监督学习场景。
摘要由CSDN通过智能技术生成

文章目录

代码思路来自Python Machine Learning 3rd，本人只是做了一些修改

numpy + pandas实现

我们以pandas内置的wine库来实现，我这里采取的是本地读取

import pandas as pd
df_wine = pd.read_csv('./wine.data')

1. 标准化原始数据集

# 首先分离数据集
from sklearn.model_selection import train_test_split
X, y = df_wine.iloc[:, 1:], df_wine.iloc[:, 0]
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, stratify=y, random_state=0)

# 标准化
from sklearn.preprocesssing import StandardScalor
sc = StandardScalor()
X_train_std = sc.fit_transform(X_train)
X_test_std = sc.transform(X_test)

2. 获得协方差矩阵

使用numpy API

import numpy as np
cov_mat = np.cov(X_train_std.T)

3. 获得特征向量和特征值

使用numpy API

eigen_vals, eigen_vecs = np.linalg<
最低0.47元/天 解锁文章
主成分分析(PCA)python实现(含数据集)
12-15
主成分分析(PCA)python实现(含数据集)，结构清晰，适合初学者
机器学习主成分分析PCA算法的python实现
11-20
机器学习中的主成分分析（PCA）是一种常用的数据降维技术，它通过线性变换将数据投影到新的坐标系中，使得在新坐标系下的前几个坐标上数据的方差最大，从而达到减少数据维度的目的。PCA算法的核心思想在于寻找数据...
Python 中的主成分分析 (PCA)
pythonandaiot的博客
01-04 7102
无监督学习 什么是主成分分析 当我们执行主成分分析 (PCA) 时，我们希望找到数据集的主成分。令人惊讶不是吗？那么，数据集的主要组成部分是什么，我们为什么要找到它们，它们告诉我们什么？数据集的主成分是数据集中变化最大的“方向”（我假设您对术语方差有基本的了解。如果没有，请在此处查找。简单来说，第一个主成分是数据集是沿数据集变化最大的方向。 考虑以下数据集，我在其上绘制了由不同颜色箭头表示的不同“方向”。你怎么看，哪个箭头指向数据集方差最大的方向？ 好吧，通过肉眼我们看到橙色箭头可能指向方差
Python之主成分分析
weixin_34280060的博客
12-22 9391
目的：  了解主成分分析、因子分析、判别分析、聚类分析的原理背景  掌握SAS语言进行多变量分析过程（princomp过程和factor过程）  掌握SAS语言进行判别分析 (discrim过程)  掌握SAS语言进行聚类分析（cluster过程，tree过程） 引言：前面介绍SAS的基本统计分析功能。本章我们讲述用SAS进行多元统计分析。 SAS进行多元统计分析的过程包括: 第一类：多变量分析过程，包括princomp(主成分分析)、factor（因子分析）、cancorr(典型相关分析、mult
python主成分分析（PCA）
黄俊文的博客
12-10 2万+
一、PCA简介 1. 相关背景 主成分分析（Principal Component Analysis，PCA）， 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。 上完陈恩红老师的《机器学习与知识发现》和季海波老师的《矩阵代数》两门课之后，颇有体会。最近在做主成分分析和奇异值分解方面的项目，所以记录一...
Python_主成分分析
zhangweiguo_717的博客
10-15 3472
Python实现简单主成分分析
机器学习主成分分析算法 PCA—python详细代码解析（sklearn）
qq_45932996的博客
10-12 3173
在进行数据分析时，我们常常会遇到这样的情况：各个特征变量之间存在较多的信息重叠，也就是相关性比较强。就好比在研究一个班级学生的学习情况时，可能会收集到学生的语文成绩、数学成绩、英语成绩等多个特征变量。但往往会发现，语文成绩好的学生，数学和英语成绩也可能比较好，这就说明这些变量之间存在一定的相关性。这种情况在线性回归分析中被称为多重共线性关系。同时，如果我们的样本观测值数量较少，而选取的变量却很多，就会产生高维数据带来的 “维度灾难” 问题。
数据处理-主成分分析-数据降维-pca聚类-pca
09-04
3pca实现结合机器学习感知器实现人脸检测 PCA实现人脸识别 平台： Anaconda 下的Spyder 编程语言： Python 3.6.5 依赖的包： numpy，cv2 运行方法：运行PCA_face_recognize.py 详细介绍：package.py中存放的是...
Python机器学习中的主成分分析（PCA）全面解析与应用
switch616的博客
10-21 2229
PCA 通过找到数据方差最大的方向，重新构造数据的线性组合，压缩数据的维度，但同时保留大部分信息。特征值越大，表示该方向上的方差越大，也就是信息量越多，因此在降维时，通常选择特征值较大的前几个主成分。在该实例中，原始手写数字图像的维度为 64（即 8x8 像素），通过 PCA 降维至 10 维，能够显著减少数据的维度，同时保留大部分图像的关键信息。PCA 的降维实质上是通过特征值分解，将数据映射到新的特征空间中。从图中可以观察到，拐点处之后的主成分对数据的解释能力下降，通常可以选择拐点之前的主成分数量。
python进行主成分分析
qq_41081716的博客
11-18 1778
数据： 序号 x1 x2 x3 x4 1 40 2 5 20 2 10 1.5 5 30 3 120 3 13 50 4 250 4.5 18 0 5 120 3.5 9 50 6 10 1.5 12 50...
主成分分析（PCA）Python代码.ipynb
03-12
PCA(Principal Component Analysis)，即主成分分析方法，是一种使用最广泛的数据降维算法。PCA的主要思想是将n维特征映射到k维上，这k维是全新的正交特征也被称为主成分，是在原有n维特征的基础上重新构造出来的k维特征。
python 主成分分析 （PCA）
jacke121的专栏
04-12 4167
主成分分析（PrincipalComponentAnalysis，PCA）是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。 # 用python实现主成分分析（PCA） import numpy as np from numpy.linalg import eig from sklearn.datasets import load_iris def pca(X,k): X = X - X.mean(axis = 0) #...
用python进行主成分分析（PCA）
TSzero的博客
05-10 1万+
一、简介  这篇文章简单介绍了PCA的原理、思想和一些定义，本文将介绍如何用python进行PCA。 二、实现 2.1 标准化数据  在对数据进行PCA前，需要先将数据进行中心标准化，即使特征的平均值为000，方差为111。 from sklearn.preprocessing import StandardScaler StandardScaler(*, copy=True, with_mean=True, with_std=True) 使用说明： 实例化：scaler = StandardScale
用python实现主成分分析（PCA）
热门推荐
ruoff的博客
05-09 4万+
用python实现主成分分析（PCA）python应用实例：如何用python实现主成分分析背景iris数据集简介算法的主要步骤代码实现查看各特征值的贡献率 python应用实例：如何用python实现主成分分析 主成分分析（Principal Component Analysis，PCA）是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。 背景 在许多机器学习、深度学习的应用中，往往需要处理大量样本或大的矩阵，多变量大样本无疑会为研究和应用提供丰富
Python实战：主成分分析
最新发布
weixin_47362565的博客
12-03 431
另外，为了进一步展示主成分分析后的降维效果，又创建了一个新的 PCA 对象，设置 n_components 为 2，将原始数据转换到二维空间（仅取前两个主成分），并查看转换后的数据示例（这里将转换后的数据转换为 pandas 的 DataFrame 格式方便查看），在实际应用中还可以将转换后的数据用于后续的可视化分析（比如绘制散点图查看学生样本在二维主成分空间中的分布情况等）。首先定义了一个二维的 numpy 数组来表示学生成绩数据，每一行对应一名学生的各科成绩。
python数据分析-主成分分析
csdn1561168266的博客
02-16 4478
实例：设x=（x1，x2，x3）T为40个随机生成的三维数据，其中x1～N（0，4），x2～N（2，1），x3～N（1，10）。比较从相关矩阵R出发求主成分与从协方差矩阵Σ出发求主成分的计算结果，可以发现，从R出发求得的主成分有y1*的贡献率与从Σ出发求得的主成分y1的贡献率存在明显差异。由计算结果可知，前两个主成分的累计贡献率已经达到96.4%，所以舍去后两个主成分可以达到降维的目的。在实际问题中，总体的协方差矩阵Σ和相关矩阵R都是未知的，需要通过样本来进行估计，此时求出的主成分称为样本主成分。
python数据分析的主成分分析
云梦归遥【qq_45834685】
12-12 631
python数据分析的主成分分析的简单讲解（手动加导入库实现） 文章目录 python数据分析的主成分分析的简单讲解（手动加导入库实现） 一、使用步骤 1.第一种手动实现 2.第二种导入库实现 总结 前言 主成分分析是数据分析中的一种分析方法，用于分析出影响最大的因子和一系列因子，帮助你做决策，以及设置权重 提示：以下是本篇文章正文内容，下面案例可供参考 一、python数据分析的主成分分析的简单讲解（手动加导入库实现） 1.实现过程 代码如下（示例）：...
python主成分分析法
Fools_______的博客
07-07 2697
数据集如下： import pandas as pd import numpy as np import matplotlib.pyplot as plt import math pd.set_option('display.unicode.ambiguous_as_wide', True) pd.set_option('display.unicode.east_asian_width', True) plt.rcParams['font.sans-serif'] = ['Arial Unicode M
PCA主成分分析的Python实现教程
标签“主成分分析、机器学习、python”表明这个zip文件是围绕PCA这一核心机器学习算法，并用Python编程语言实现的。PCA作为数据挖掘和机器学习中的重要技术，广泛应用于图像处理、数据压缩、降噪、模式识别等领域。 ...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值