PCA（主成分分析）浅析

最新推荐文章于 2021-02-24 10:39:00 发布
最新推荐文章于 2021-02-24 10:39:00 发布
阅读量1k 收藏 1
点赞数 1
分类专栏： 机器学习 文章标签： PCA 主成分分析 浅析
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hubin232/article/details/51049821
版权
PCA（主成分分析）是一种用于高维数据降维的方法，通过线性变换找到最具区分性的特征。基本步骤包括计算样本协方差矩阵，求解特征值和特征向量，依据特征值大小选取特征向量构建降维后的特征矩阵。PCA适用于数据标准化后的处理，常用数据标准化方法包括min-max和Z-score。PCA的目标是对协方差矩阵进行对角化，选择方差大的维数，确保转换后的基相关性弱。
摘要由CSDN通过智能技术生成

基本知识：

方差：     少了个平方 


协方差：协方差用于衡量两个变量的总体误差情况，可以说方差是协方差的一种特殊情况，即当两个变量是相同的情况   

          

        

最低0.47元/天 解锁文章
GZGlenn
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
PCA算法之特征值分解
shiyueyue0822的博客
03-06 1031
奇异值分解和特征值分解都是对矩阵进行分解的不同方法，所谓分解，即使将原矩阵拆分成另一种表达方式，且新的表达方式比原矩阵更简单，更具有实际意义。奇异值分解对象可以使任意n*m维的矩阵，而特征值分解只能针对n*n的方阵，特征值分解从某种意义上来说可以算是奇异值分解的一种特殊情况，所以下面先对特征值分解进行一个描述。 对角阵： 其实这种矩阵有特殊性，比如除了其主对角线元素外的所有元素都是0，这...
主成分分析PCA以及特征值和特征向量的意义
热门推荐
Mr.horse的博客
11-17 7万+
定义： 主成分分析（Principal Component Analysis，PCA）， 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。PCA的思想是将n维特征映射到k维上（k<n），这k维是全新的正交特征。这k维特征称为主成分，是重新构造出来的k维特征，而不是简单地从n维特征中去除其余n-k维特征。 简单解释： 具体的，假...
PCA中的一些理解
qq_29146525的博客
03-21 1420
特征值与特征向量的理解 1、特征值的大小有什么含义？ 特征值越大，表示数据映射到该特征值对应的特征向量方向上，方差越大，因为特征值就是放大倍数；打个比方，特征值为10，对应的特征向量v，则数据映射到v方向是会将投影放大10倍，导致数据在这个维度上的差异进一步加大，进而保留了更多的信息； 如果特征值很小，则数据映射到这个维度的分量就会压缩到一起，数据在这个维度的差异很小，无法区分，因为损失了很多信息...
主成分分析法及特征值的含义
My Sunshine
12-02 5万+
主成分分析法是一种非常适用，又相对简单的数据处理的方法。它是利用降维的方法，将数据表示的信息的主要成分提取出来，所以叫做主成分分析法。  从它的作用可以看出来，它的运用非常的广泛:  1. 显而易见，由于它可以提取主要的信息成分，所以它可以用来过滤掉信号的噪声。 2.它可以用于合并特征。当有一些信息相关性非常大的时候，我们可以用主成分分析法把它们合并成一个特征。 3.它
直观上理解PCA中特征值和特征向量
zhaishengfu的专栏
08-01 1万+
http://blog.csdn.net/cfh_3c/article/details/51355044
PCA(主成分分析)
James_bobo的博客
12-25 5209
主成分分析（英语：Principal components analysis，PCA）是一种分析、简化数据集的技术。主成分分析经常用于减少数据集的维数，同时保持数据集中的对方差贡献最大的特征。常常应用在文本处理、人脸识别、图片识别、自然语言处理等领域。可以做在数据预处理阶段非常重要的一环，本文首先对基本概念进行介绍，然后给出PCA算法思想、流程、优缺点等等。最后通过一个综合案例去实现应用。 降维 ...
线性判别分析（LDA）浅析
09-26
在实际应用中，如果数据分布不符合这些假设，可能需要预处理或选择其他方法，如主成分分析（PCA）或支持向量机（SVM）。 总的来说，线性判别分析是一种强大的工具，适用于分类任务和数据降维。尽管它有一些限制，如...
浅析人脸识别技术的发展.pdf
09-23
3. **特征提取与匹配阶段**：进入21世纪，特征提取技术如PCA（主成分分析）、LDA（线性判别分析）和EIGENFACES等成为主流，它们能自动提取人脸的关键特征进行匹配。 4. **深度学习阶段**：近年来，随着深度学习的...
深入浅析Python 中的sklearn模型选择
09-18
降维是处理高维数据的有效手段，`sklearn.decomposition`模块提供了主成分分析(PCA)、奇异值分解(SVD)、独立成分分析(ICA)等方法。 预处理是数据准备的关键步骤，`sklearn.preprocessing`模块提供了标准化、归一化...
浅析映射思想在机器学习中的应用.pdf
09-24
这个过程可以是线性的，如PCA（主成分分析）；也可以是非线性的，如核方法（如RBF核SVM）。 二、映射在预处理阶段的应用 1. 特征缩放：映射思想在特征缩放中发挥着关键作用，例如标准化（Z-score标准化）和归一化...
浅析智能门禁系统中的人脸识别技术探究.rar
09-20
最后，通过特征提取和比对来识别不同个体，常用的方法有人脸特征向量（Eigenface）、主成分分析（PCA）和局部二值模式（LBP）等。 在智能门禁系统中，人脸识别技术的应用大大提升了系统的安全性和便捷性。用户无需...
关于PCA（特征降维）的特征值，特征向量的理解
qq_24497419的博客
03-30 4914
之前学习pca这点地方时，一直不太理解为什么特征降维需通过“Aa=λα ”来计算，在网上也看了很多资料，现在来说一说我自己的理解： 当然我的理解也是建立在别人的博文之上的，推荐一篇博文https://blog.csdn.net/a727911438/article/details/77531973 （是关于介绍矩阵、向量、行列式、特征值与特征向量的），再次对此博主表示感谢。 现...
主成分分析（PCA）中的特征值与特征向量，特征值是不是数据在特征向量方向上的方差
不解不惑
04-22 7664
1.PCA的计算步骤 （1）求协方差矩阵 （2）求协方差矩阵的特征值和特征向量 （3）选取前K个特征向量使得贡献率达到85%以上 （4）获得降维后的数据 2.数据在特征向量方向上可以获得最大的方差，可以了解成在该方向上数据的区分度最高，信息量最大 3.协方差的意思 如果结果为正值，则说明数据是正相关的（从协方差可以引出“相关系数”的定义） 数值越大表示相关性越高，方差是...
PCA的本质----特征值分解
Sunshine_in_Moon的专栏
05-27 1万+
相信大家对PCA并不陌生，但是PCA的本质你是否了解呢？今天就给大家简单讲讲，也是自己对PCA的一个巩固。博客中使用的图片来自七月算法的程博士的PPT，在此感谢程博士课上的耐心讲解。      1、特征值个特征向量     我相信大家对于这个式子非常熟悉，但是你真正的理解这个式子了吗？特征向量和特征值到底有什么意义呢？说实话，在听程博士的课之前我一直迷惑，不过现在懂了。     首先，我们
特征工程——PCA
02-24 619
PCA： https://blog.csdn.net/program_developer/article/details/80632779 3.1 PCA的概念 PCA(Principal Component Analysis)，即主成分分析方法，是一种使用最广泛的数据降维算法。PCA的主要思想是将n维特征映射到k维上，这k维是全新的正交特征也被称为主成分，是在原有n维特征的基础上重新构造出来的k维特征。PCA的工作就是从原始的空间中顺序地找一组相互正交的坐标轴，新的坐标轴的选择与数据本身是密切...
机器学习—数据压缩(PCA)—特征值分解、奇异值分解+代码理解
柳成荫
08-05 3136
一、特征值 1、特征值分解 如果说一个向量v是方阵A的特征向量，将一定可以表示成下面的形式子 ： Av = λv 这时候λ就被称为特征向量v对应的特征值，一个矩阵的一组特征向量是一组正交向量。特征值分解是将一个矩阵分解成下面的形式： 其中W是这个矩阵A的特征向量组成的矩阵，Σ是一个对角阵，每一个对角线上的元素就是一个特征值，里面的特征值是由大到小排列的，这些特征值所对应的特征向量就是描述这个矩阵...
从物理意义上了解PCA
weixin_41994174的博客
09-09 1643
从物理意义上了解PCA 什么是线性变换 什么是线性变换？ 一个变换同时具有以下2条性质，则它是一个线性变换： 1.变换前后，所有直线仍是直线。 2.变换前后，原点保持不变。 具体参考：https://www.cnblogs.com/joefish/p/8150006.html 如何描述一个线性变换 通常，要描述一个线性变换，我们可以通过一个矩阵来表示。 在表示一个向量时，我们最常使用的两个基分别是...
PRML读书笔记——图模型
GZGlenn的博客
04-14 5339
本章主要分析贝叶斯网络、条件独立、马尔科夫随机场和图模型的推断
PCA主成分分析详解与MATLAB实现
"本文主要介绍了主成分分析法（PCA）的基本概念、步骤以及如何使用MATLAB进行实现。PCA是一种常用的数据降维技术，通过线性变换将高维数据映射到低维空间，同时最大化信息保留。文中还讨论了降维的优点，并提供了PCA...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值