机器学习-降维方法-无监督：PCA算法（主成分/主元分析）【计算协方差矩阵X^TX的特征值与特征向量W（特征向量W控制旋转、特征值控制尺度）-＞特征向量W作为投影矩阵-＞将样本X通过W投影进行降维】

已于 2023-05-29 13:47:50 修改
阅读量594 收藏
点赞数
分类专栏： # ML/经典模型 文章标签： 人工智能 机器学习 算法 PCA
于 2021-01-14 00:16:39 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u013250861/article/details/112597858
版权
PCA（主成分分析）是一种无监督的线性降维方法，通过正交变换减少数据的维度，同时最大化方差以保持信息。PCA通过计算协方差矩阵和特征值来找到新变量（主成分），这些主成分是原始变量的线性组合，彼此正交。降维过程中，PCA可避免特征之间的线性相关性，常用于数据预处理和降低模型复杂度。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

无监督学习 { 化繁为简 { 聚类(Clustering)

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【机器学习】降维方法(一)----主成分分析(PCA)
花丸大老师的博客
04-19 2562
发现其实还有很多知识点还未整理和掌握，包括降维、模型评估、特征选择、稀疏学习、聚类算法等。在实践中穿插着整理和学习吧。先从降维方法开始。 线性降维 欲获得低维子空间，最简单的方法就是对原始高维空间进行线性变换。 给定样本X∈Rn×mX∈Rn×mX\in\Bbb R^{n\times m}，即有mmm个数据样本，每个样本有nnn个特征(nnn维)，记为xi=(x(1)i,x(2)i,......
非监督学习算法——PCA算法
Taiiiii的博客
05-01 776
文章目录PCA算法作用优缺点工作原理数学公式sklearn 调用PCA算法手打python实现简单PCA算法 PCA算法 作用 pca算法主要用于数据的降维，可以发现更便于人来理解的特征。还可以可视化，去噪。 数据降维的作用： 数据压缩 做数据可视化或特征提取（比如降到2维，看坐标图可视化） 异常值检测和聚类 优缺点 精度上可能稍微会有所丢失，但是速度上会提高 工作原理 工作原理：PCA找主成...
PCA降维——主成分分析(principal component analysis,PCA)与LDA（线性判别分析）
大无赖blog
07-31 1264
摘要：      主成分分析(principal component analysis,PCA)是一种将高维数据投影到低维 数据的线性变换方法，这一方法的目的是寻找在最小均方误差意义下最能代表原始数据 特征的投影方向，用这些方向矢量表示数据。本实验的目的是了解PCA主分量分析方法 的基本概念，学习和掌握PCA主分量分析方法的基本概念，学习和掌握PCA主分量分析 方法。利用PCA分析对数据
PCA算法（实现降维）
Leida_wanglin的博客
10-18 1562
PCA算法 步骤： 例题： 数据： python代码： 小编用的是Jupyter Notebook运行的哈！ 代码仅供参考，此代码不足之处还请告诉小编 import pandas as pd import numpy as np data = pd.read_excel('data.xlsx',encoding="gbk") #小编将上面数据放进了data文档里面了 data = data.values #转化为数组 area = data[:,:1] data = data[:,
KPCA算法浅析
Y_hero的博客
04-03 6710
二者都是在PCA和LDA的基础上加入了核函数，从线性变化到非线性变化，因此建议先搞懂什么是PCA、LDA和核函数。 KPCA 我们先来看一个实际问题，图b是样本在二维空间中的分布，称为本真二维结构，然后以S形曲面嵌入到三维空间中，形成图a的空间结构，如果使用线性降维的方法，会丢失低维结构，得到一个图c这样的二维空间结构。 面对上述问题，我们就不能采用传统的线性降维方法了，这时候就要使用我们的核主...
PCA降维技术：核主元分析与主成分提取
在实际应用中，PCA降维可以用于减少特征空间维度、去噪声、特征提取等，从而简化机器学习模型和提高计算效率。由于PCA保留了数据的主要变异，因此在很多情况下，降维后的数据仍然可以保持数据集的重要特性。 在进行...
主成分分析(PCA)——矩阵角度推导
mrforth的博客
02-28 1259
最近机器学习课上正式讲了主成分分析，只是老师说的很快，我并没有完全理解。随后我搜了很多关于这方面的讲解来进行理解，仅CSDN上就有很多讲的很好的文章，从协方差矩阵角度进行说明，基本上我也都理解了。但另一方面我发现可以结合我最近学的矩阵分析，从纯矩阵运算的角度推导。这里说明在阅读这篇文章之前，最好对矩阵知识有一定的了解，不过不用多深，因为我才刚刚开始学矩阵分析，所以我对矩阵的了解也不深。
机器学习算法笔记系列之深入理解主成分分析PCA-原理篇
热门推荐
ShiZhixin的专栏
04-18 2万+
机器学习算法笔记系列之深入理解PCA-原理篇(未完待续) 作者：shizhixin 博客：http://blog.csdn.net/shizhixin 微博：http://weibo.com/zhixinshi 日期：2016-04-14 1 概述2 引言内积与投影 导读：大部分人估计都知道PCA是将数据点向新的方差最大的单位向量做投影，但是什么是到向量的投影，它和内积又有什么
吴恩达机器学习（十二）主成分分析（降维、PCA）
今天你学习了吗
10-11 5081
目录 0. 前言 1. 主成分分析（PCA） 2. 主成分分析PCA的流程 3. 低维空间维度的选择 4. 主成分分析使用方式 学习完吴恩达老师机器学习课程的降维，简单的做个笔记。文中部分描述属于个人消化后的理解，仅供参考。 如果这篇文章对你有一点小小的帮助，请给个关注喔~我会非常开心的~ 0. 前言 数据的特征数量，又称作向量的维度。降维（dimensionality re...
kpca降维算法
09-12
本程序利用KPCA来对原始数据进行降维，里面有较为详细的注解，能够帮助大家理解，程序比较精简，是在前人的基础上进行的修改后的结果，运行绝对无错误。
KPCA算法实现代码，MATLAB
11-05
KPCA算法代码实现，MATLAB实现。kernel核函数为poly和gaussion。
pca和kpca算法
03-13
该程序包含kpca和pca两个程序，其中的主要程序片段携程函数模块，希望对大家能有所帮助
用PCA降维 （Principal Component Analysis，主成分分析)
weixin_34082789的博客
09-07 157
参考资料：Mastering Machine Learning With scikit-learn 　　降维致力于解决三类问题。第一，降维可以缓解维度灾难问题。第二，降维可以在压缩数据的同时让信息损失最 小化。第三，理解几百个维度的数据结构很困难，两三个维度的数据通过可视化更容易理解 PCA简介 　　主成分分析也称为卡尔胡宁-勒夫变换（Karhunen-Loeve Transform...
降维算法（1）：Principal Component Analysis（PCA）
08-02 651
降维原理：降维就是采用某种映射方法，将高维空间的数据点映射到低维空间中。 降维本质：学习一种映射函数f：x->y，x为高维空间的数据点的表达式，而y为低维空间的数据点的表达式，x的维度 为什么要降维：高维数据通常包含过多冗余信息和噪音信息，这样会对识别分类造成误差，降低准确率，而且会造成计算复杂度。通过降维，可以减少误差，提高准确率，减少计算复杂度。 PCA 数学表达式： 【1】内
pca降维python实例_主成分分析(Principal component analysis, PCA)例子–Python | 文艺数学君...
weixin_39566864的博客
12-08 410
摘要这一篇是关于PCA的实战, 我们会举一个例子, 看一下PCA具体在实战中是如何来进行的. 同时我们会比较同一个数据下, 使用PCA(主成分分析)和FA(因子分析)得到结果的不同.简介这一篇文章主要介绍关于主成分分析(Principal component analysis, PCA)的一个应用, 主要看一下在实做的时候应该如何来进行. 同时会比较一下使用PCA和FA两种方法得到的结果的不同.我...
机器学习：非监督学习算法：K-means
qq_45315982的博客
12-12 422
非监督学习：K-means 假设通过上面的图片人物穿着，来判断一个人的类别。把有相近的特征的人分为一个类别。 K-means 聚类 先将数据进行划分，全部为蓝色，然后通过聚类划分为三个类别。 理解k-means： 图：假设这个数据有两个特征x1，x2，对这一群数据进行聚类，这时候就有一个K值（把数据划分为几个类别），根据K值进行聚类。 步骤： 1.随机在数据当中抽取三个样本，当做三个类别...
主成分分析 降维
qq_38882117的博客
07-27 403
import pandas as pd #参数初始化 inputfile = '../data/principal_component.xls' outputfile = '../tmp/dimention_reducted.xls' #降维后的数据 data = pd.read_excel(inputfile, header = None) #读入数据 from sklearn.deco...
计算协方差矩阵中的XX^{T}和X^T{T}的区别
追梦的博客
09-07 2906
假设X∈Rm×nX \in \R^{m \times n}X∈Rm×n，通常在数据降维过程中m<<n 令A=XTXA=X^TXA=XTX，B=XXTB=XX^TB=XXT，显然A∈Rn×nA \in \R^{n \times n}A∈Rn×n，B∈Rm×mB \in \R^{m \times m}B∈Rm×m,rank(A)=rank(B)rank(A)=rank(B)rank(A)=rank(B),$显然，A和B都是对称半正定矩阵，且A有n个特征向量，B有m个特征向量。 ...
老罗笔记人工智能文字处理软件 Rogabet Notepad 2025-402 1.812
最新发布
rogabet的博客
04-03 552
老罗笔记人工智能文字处理软件
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值