PCA学习过程（一、原理）

最新推荐文章于 2021-10-26 15:30:27 发布
最新推荐文章于 2021-10-26 15:30:27 发布
阅读量326 收藏 1
点赞数
分类专栏： matlab 文章标签： pca 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sduvec/article/details/106563301
版权
本文介绍了PCA（主成分分析）的学习心得，包括PCA的求解步骤：数据零均值化、计算协方差矩阵、求解特征值与特征向量、选择主成分等。讨论了使用协方差矩阵的特征向量作为投影矩阵的原因，以及去均值的必要性，强调了数学在PCA中的关键作用。
摘要由CSDN通过智能技术生成

从SVM过来发现在选择特征的时候需要用到PCA，这样选的特征就有很好的区分度，更容易进行预测工作。
摸索了好几天，其实是拖延了好几天。
终于认为我行了。。写一下理解后的心得
首先膜拜下大神，看一下这个链接
https://zhuanlan.zhihu.com/p/77151308
上面写的很全面了，从基变换到协方差矩阵对角化说的很清楚。
我再捋一遍PCA求解步骤：
设有 m 条 n 维数据。
1、将原始数据按列组成 n 行 m 列矩阵 X；
2、将 X 的每一行进行零均值化，即减去这一行的均值；
3、求出协方差矩阵 C = 1 m X X T C=\frac{1}{m}XX^T C

最低0.47元/天 解锁文章
yan_tai123
关注
专栏目录
[机器学习] PCA理论
kuang_liu的专栏
10-22 1517
1. PCA综述 主成分析法（Principal Component Analysis, PCA）的思想就是 降维。 主成分析法可以  ① 降低整个数据集合的维度（单独每组数据维度不变）                               ② 提取数据集合中的主要成分，移除数据冗余，便于识别数据集中的一些规律(pattern) 用途有： 图像压缩，人脸识别。 2.
PCA 学习
u012809610的专栏
05-16 787
基础 　　假设X是一个m*n的矩阵，是由样本数据构成的矩阵。其中m表示样本的属性维数，n表示样本的个数。现在要对X进行线性变换变成另一个矩阵Y，使得Y的协方差矩阵为对角矩阵，这样的Y就认为是对原始矩阵X提取主成分后的矩阵，实际过程中只需取Y的前面主要的行即可。 　　X变换到Y的线性变换公式为: 　　 　　X和Y的协方差计算方法为： 　　 　　 　　从下面的
机器学习——PCA降维（我至今为止遇见的最好的博文）
邹小驴
09-07 5万+
参考文章：https://zhuanlan.zhihu.com/p/77151308 PCA（Principal Component Analysis） 是一种常见的数据分析方式，常用于高维数据的降维，可用于提取数据的主要特征分量。 PCA 的数学推导可以从最大可分型和最大重构性两方面进行，前者的优化条件为划分后方差最大，后者的优化条件为点到划分平面距离最小。由于基于最大重构性的 PCA 其与...
PCA学习
weixin_44180506的博客
10-26 740
文章目录一、PCA相关资源二、使用降维算法的原因1.去除观测变量之间的相关性2.模型需要的样本数量随着变量（特征）数量指数增加3.变量太多，难以解释4.变量太多，容易过拟合三、PCA的推导1.向量表示与基变换1.1 内积1.2 基1.3 基变换的矩阵表示2. 最大可分性四、PCA结果的解释 一、PCA相关资源 网上讲解PCA的资源很多，讲的好的也很多，我的数学基础也不比在座的各位高到哪里去，就不班门弄斧了。下面得这篇知乎高赞很值得推荐： 【机器学习】降维——PCA（非常详细） 那我为什么还要再搞一篇博客呢
PCA学习过程
fireguard的专栏
08-20 758
近期被文章逼疯了，对lsgc算法进行了邻接矩阵的实验。 我想把PCA的方法在这个实验中进行应用，对特征进行降维以
主成分分析（PCA）原理详解
热门推荐
Microstrong
06-09 65万+
“微信公众号”本文同步更新在我的微信公众号里，地址：https://mp.weixin.qq.com/s/Xt1vLQfB20rTmtLjiLsmww本文同步更新在我的知乎专栏里面：主成分分析（PCA）原理详解 - Microstrong的文章 - 知乎https://zhuanlan.zhihu.com/p/377770741.相关背景在许多领域的研究与应用中，通常需要对含有多个变量的数据进行观...
PCA人脸识别_人脸识别原理_pca人脸识别_
10-03
在提供的压缩包文件中，"PCA原理图.jpg"可能展示PCA降维的过程，"face_recognition.fig"可能是PCA人脸识别的流程图或者结果展示。"face_recognition_sim.m"很可能是用MATLAB编写的PCA人脸识别的模拟代码，通过运行这...
PCA.zip_PCA原理
09-14
下面将详细介绍PCA的基本原理。 PCA的目标是找到一个新的坐标系，使得原始数据在这个新的坐标系下的投影具有最大的方差。换句话说，它寻找数据点在新坐标系中的主要方向，这些方向被称为“主成分”。通过保留这些...
PCA.rar_PCA原理_pca降维
09-21
这一过程可以降低数据的复杂性，方便后续分析，如可视化、机器学习模型的训练等。 PCA的主要步骤包括以下几点： 1. **数据预处理**：首先，对数据进行中心化处理，即将每个特征减去其均值，使得所有特征的均值为0...
PCA学习源码
12-27
包含了pca对二维数据的降维处理，和对人脸图像进行处理的程序
PCA模型理论和实践
09-25
PCA模型理论和实践，结合教材用书和文献简单总结，以及从线性空间角度理解PCA模型
PCA学习笔记
lixixi
08-08 217
PCA的意义 机器学习中的主要问题：维度灾难　 PCA：在力求数据信息丢失最少的原则下，对高纬度的变量空间降维 ，即研究指标体系的少数几个线性组合，并且这几个线性组合所构成的综合指标将尽可能多的保留信息。这些综合指标就称为主成分 。 PCA推导 该X的协方差矩阵 为 由于此矩阵为非负定的对称阵，则有利用线性代数的知识可得，比存在正交矩阵U，使得 ： 其中P个特征值，假设大小是降序。 而U恰好是由特征根相对应的特征向量所组成的正交阵 这里，由U的第一列元素所工程为原始变量的线性组合有最大的方差　。　(证
PCA方法学习
qq_45675153的博客
09-16 184
PCA是什么 PCA是一种降维方法,试图从高维数据提取出关键的特征,最后使得降维后的数据有最大可分性,也就是方差最大. 基变换 很容易理解,PCA的目的就是挑选K个基,使得原数据各个特征在新的基下的方差最大.下面从矩阵运算的角度讲述基变换. 假设一个向量 另外一组向量作为新的基 那么x在新基中的坐标表示为 方差和协方差 协方差可以用来表示两个变量的线性相关性,当协方差为0可以说这两个变量完全线性不相关,当两个变量相同时,就退化为方差,协方差定义如下: ...
机器学习| 面试题：10、PCA算法原理
Mrrunsen的博客
09-12 416
PCA算法原理 主成分分析（Components Analysis，PCA）是机器学习中最经典的降维方法，也是面试中的家常便饭，因而有必要认真梳理一遍PCA的原理，甚至需要手动推导一遍。 文章目录PCA算法原理数据降维PCA概念PCA之最大可分性（最大方差）最大化方差公式推导PCA求解过程总结PCA之最近重构性（最小平方误差）最小化平方误差优化目标PCA求解过程总结PCA的优缺点总结参考资料 数据降维 在理解PCA的概念之前，我们先来认识一下什么是数据降维。降维就是用低维度的向量来表示原始高维度的特征。 例
PCA学习记录
SCUT_Sam
03-06 838
摘要： 本文主要讨论的对象是PCA（主成分分析）。 PCA是什么？ PCA（主成分分析）在机器学习中的应用很广泛，通常PCA可以用来对数据进行降维，或者说将数据从高维的空间映射到低维的空间。简单来说，所谓的降维其实就是这么一个过程： 假设原始数据有nnn个样例，mmm个特征，也就是n×mn×mn×m的矩阵。把这个n×mn×mn×m的规模的矩阵映射成一个n×kn×kn×k的矩阵过程就是一...
PCA学习-算法步骤
魏晋小子的博客
04-04 635
每天进步一点点《PCA的简要学习》
qq_29367075的博客
09-13 553
一：简单的例子 例子一： 有一组体检的数据表（每个人的身高和体重） 一共七个人，每个人的身高和体重如下： 165 170 175 180 185 190 195 身高cm 90 90 91 90 90 89 90 体重kg 如果，现在给你个其中一组数据，让你去分别出哪个数据是哪个人的，我们肯定会只根据身高去判断哪个数据是哪个人的了吧。我们潜意识内已经把一个二维数据自动用了一个一维的数据进行划分了。这就是降维。我们很开心，因为就现成的维度就能划分出来。 例子二： 再给你七个人的数据，每个人的身高和体重如下：
PCA降维原理与计算步骤详解
PCA (主成分分析) 是一种常用的机器学习技术，用于数据降维，尤其适用于高维数据中的特征提取。它的核心目标是通过线性变换将原始数据转换到一组新的...理解并掌握PCA的这些原理和步骤对于机器学习工程师来说至关重要。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值