机器学习（五）——PCA

最新推荐文章于 2022-03-13 21:36:45 发布
最新推荐文章于 2022-03-13 21:36:45 发布
阅读量287 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ylin01234/article/details/81989754
版权

PCA：又叫主成分分析，用于特征转换和降维、压缩。能找到数据中的相似性和不同性，使得降低了维度的数据之间的方差最大

  1. 对数据进行标准化；
  2. 去中心化，求取每一特征所有样本的平均值；
  3. 计算协方差矩阵；
  4. SVD奇异值分解得到特征值矩阵和特征向量矩阵
  5. 根据需要选取构建新的投影矩阵
  6. 对原始特征向量进行映射

问题一：不可逆怎么办？

广义逆的SVD分解

 

LDA的全称是Linear Discriminant Analysis（线性判别分析），给出一个标注了类别的数据集，投影到了一条直线之后，能够使得点尽量的按类别区分开

 

LDA的输入数据是带标签的，而PCA的输入数据是不带标签的，无监督的

某些情况下，PCA中或许包含有与LDA方向相似甚至相同的方向，对于分类问题，有时PCA可能使分类更困难，LDA较好一些

ylin01234
关注
机器学习实战项目——无监督聚类&PCA tSNE降维.zip
04-11
在本机器学习实战项目中，我们将探讨两种关键的无监督学习方法：聚类与主成分分析（PCA），以及t-distributed Stochastic Neighbor Embedding（t-SNE）降维技术。这些技术在数据科学领域有着广泛的应用，特别是对于...
SIMCA-P 11.5 使用教程 PCA分析 PLS-DA分析
冰糖的小屋
04-07 1万+
软件：SIMCA-P 11.5 数据：一个公共生物数据，195个样本（1类样本48例，2类样本147例），22个特征 二维数据表，csv格式，第一行为类标，第一列为特征编号 1、读取数据文件 （1）"File" -> "New" -> 选择csv数据文件，跳转Text Import Wizard窗口 （2）因使用csv文件，Delimiters中选择Comma，点击确定 （3）在SIMCA-P中，数据应为“样本*特征”，此处需要进行转置（在数据上右键，点击Transpose）
机器学习总结（lecture 6）算法：主元分析PCA（无监督）
malele4th
02-21 855
lecture 6：主元分析PCA 目录 lecture 6主元分析PCA 目录 1PCA思想 2最大方差法 3PCA一般步骤 4PCA协方差SVD分解 1PCA思想 PCA通过线性变换将原始数据，变换为一组各维度线性无关的表示 PCA通过原变量的线性组合，寻找一组能最大限度携带原变量的有用信息，且相互不相关的一组新变量，一般通过主元回归检验法...
主成分分析（PCA）的主要使用场景
smhdezhanghao的博客
08-18 1万+
PCA的主要适用场景： （1）非监督式的数据集 它是一种非监督式的降维方法，因此适用于不带有标签的数据集，对于带有标签的可以采用LDA （2）根据方差自主控制特征数量 最大的主成分的数量会小于或等于特征的数量，即，PCA可以输出全部的特征，具体取决于选择特征中解释的方差比例 （3）更少的正则化处理 选择较多的主成分将导致更少的平滑，因为能保留很多特征，减少正则化 （4）数据量较大的数...
主成分分析（PCA）与2DPCA
qq_24876435的博客
03-13 989
主成分分析（PCA）原理详解_李春春的专栏-CSDN博客_主成分分析 看论文是遇到2DPCA方法，然后又去回顾了一下经典的PCA方法，对于PCA这篇博客解读还是比较详细，可以参考。 2DPCA方法解读可以参考这篇博客： 2DPCA—二维主成分分析详解及编程_一地鸡毛的博客-CSDN博客_二维主成分分析 一、为什么提出2DPCA（Why） PCA存在着以下问题： 1、使用PCA进行图像分类识别时，需要将二维矩阵转换为一维向量，使得图像内在的结构信息丢失。 2、使用...
PCA和LDA之直观理解
qq_41853758的博客
09-25 638
PCA和LDA的对比 PCA和LDA都是经典的降维算法。PCA是无监督的，也就是训练样本不需要标签；LDA是有监督的，也就是训练样本需要标签。PCA是去除掉原始数据中冗余的维度，而LDA是寻找一个维度，使得原始数据在该维度上投影后不同类别的数据尽可能分离开来。 PCA PCA是一种正交投影，它的思想是使得原始数据在投影子空间的各个维度的方差最大。假设我们要将N维的数据投影到M维的空间上（M&...
scut机器学习作业pca lda 横竖分割
07-14
【标题】"scut机器学习作业pca lda 横竖分割"涉及到的是机器学习领域中的两种重要降维方法——主成分分析（PCA）和线性判别分析（LDA），以及数据预处理中的横竖分割策略。这些知识点在数据分析和机器学习模型构建中...
PCA和核PCA
whitesilence的博客
03-28 3538
PCA 当处理高维数据时，需要面临降维，进行特征抽取，PCA是特征抽取的主要方法之一，特征抽取即利用映射的方法，将高维度的样本映射至低维度。PCA适用于非监督的不带标签的样本降维，特别是小样本问题。广义认为，这类样本属性之间的相关性很大，通过映射，将高维样本向量映射成属性不相关的样本向量。实际上，大的特征值表征这个映射向量——或者映射方向，能够使样本在映射后，具有最大的方差。样本在这个方向最发散。
PCA主成分分析
Dillon2015的博客
12-08 1811
PCA（主成分分析）是用于数据降维的一种方法，可以用来将高维数据映射到低维空间，去掉那些无关属性，便于对数据进行分析。 在python的sklearn库中提供了相应方法。 sklearn.decomposition.PCA(n_components=None,copy=True,whiten=False) 参数说明： （1）n_components PCA算法中要保留的主成分个数即保
PCA
xiaoyu714543065的专栏
08-08 1121
主成分分析（PCA）的输入数据时不带标签的，所以PCA是一种unsupervesed learning。PCA像是一个预处理的方法，它可以讲原本的数据维度降低，而使得降低了维度的数据之间的方差最大（也可以说投影误差最小）。        有时候我们会考虑减少方差（比如说训练模型的时候，我们会考虑到方差-偏差的均衡），有时候我们会尽量的增大方差。        如何用SVD去解ＰＣＡ的问题。ＰＣ
主成分分析（PCA）原理详解
热门推荐
Microstrong
06-09 65万+
“微信公众号”本文同步更新在我的微信公众号里，地址：https://mp.weixin.qq.com/s/Xt1vLQfB20rTmtLjiLsmww本文同步更新在我的知乎专栏里面：主成分分析（PCA）原理详解 - Microstrong的文章 - 知乎https://zhuanlan.zhihu.com/p/377770741.相关背景在许多领域的研究与应用中，通常需要对含有多个变量的数据进行观...
matlab pca 函数 输入输出数据的意义
MountainHeng的专栏
06-14 6010
pca虽然看了好多遍，但是到实际应用的时候还是觉得，没那么顺手，主要是输入数据的格式，输出的结果到底是什么东西，搞不清楚。COEF=PCA(X) x是输入的数据，解释说，rows of x correspond to observations and comlums to variables，啥意思呢？我的理解是一行代表一个观测，打个比方，我们在统计摩托车的属性信息，这些属性包括很多，比如，价格，
机器学习算法（五）：主成分分析PCA
weixin_39910711的博客
09-02 5363
目录 1 PCA简介 2 PCA实例 3PCA推导 3.1 最大方差理论与最大可分性 3.1.1最大方差理论 3.1.2最大可分性 3.2 最小平方误差理论与最近重构性 3.2.1最小平方误差理论 3.2.2最近重构性 4 PCA算法 5PCA理论意义 6 总结与讨论 1 PCA简介 在许多领域的研究与应用中，往往需要对反映事物的多个变量进...
基于SpringBoot仿天猫购物系统.zip(毕设&课设&实训&大作业&竞赛&项目)
09-20
项目工程资源经过严格测试可直接运行成功且功能正常的情况才上传，可轻松复刻，拿到资料包后可轻松复现出一样的项目，本人系统开发经验充足（全领域），有任何使用问题欢迎随时与我联系，我会及时为您解惑，提供帮助。 【资源内容】：包含完整源码+工程文件+说明（如有）等。答辩评审平均分达到96分，放心下载使用！可轻松复现，设计报告也可借鉴此项目，该资源内项目代码都经过测试运行成功，功能ok的情况下才上传的。 【提供帮助】：有任何使用问题欢迎随时与我联系，我会及时解答解惑，提供帮助 【附带帮助】：若还需要相关开发工具、学习资料等，我会提供帮助，提供资料，鼓励学习进步 【项目价值】：可用在相关项目设计中，皆可应用在项目、毕业设计、课程设计、期末/期中/大作业、工程实训、大创等学科竞赛比赛、初期项目立项、学习/练手等方面，可借鉴此优质项目实现复刻，设计报告也可借鉴此项目，也可基于此项目来扩展开发出更多功能 下载后请首先打开README文件（如有），项目工程可直接复现复刻，如果基础还行，也可在此程序基础上进行修改，以实现其它功能。供开源学习/技术交流/学习参考，勿用于商业用途。质量优质，放心下载使用。
Python网络爬虫与推荐算法新闻推荐平台(毕设&课设&实训&大作业&竞赛&项目)
最新发布
09-20
Python网络爬虫与推荐算法新闻推荐平台：网络爬虫：通过Python实现新浪新闻的爬取，可爬取新闻页面上的标题、文本、图片、视频链接（保留排版） 推荐算法：权重衰减+标签推荐+区域推荐+热点推荐.zip项目工程资源经过严格测试可直接运行成功且功能正常的情况才上传，可轻松复刻，拿到资料包后可轻松复现出一样的项目，本人系统开发经验充足（全领域），有任何使用问题欢迎随时与我联系，我会及时为您解惑，提供帮助。 【资源内容】：包含完整源码+工程文件+说明（如有）等。答辩评审平均分达到96分，放心下载使用！可轻松复现，设计报告也可借鉴此项目，该资源内项目代码都经过测试运行成功，功能ok的情况下才上传的。 【提供帮助】：有任何使用问题欢迎随时与我联系，我会及时解答解惑，提供帮助 【附带帮助】：若还需要相关开发工具、学习资料等，我会提供帮助，提供资料，鼓励学习进步 【项目价值】：可用在相关项目设计中，皆可应用在项目、毕业设计、课程设计、期末/期中/大作业、工程实训、大创等学科竞赛比赛、初期项目立项、学习/练手等方面，可借鉴此优质项目实现复刻，设计报告也可借鉴此项目，也可基于此项目来扩展开发出更多功能 下载后请首先打开README文件（如有），项目工程可直接复现复刻，如果基础还行，也可在此程序基础上进行修改，以实现其它功能。供开源学习/技术交流/学习参考，勿用于商业用途。质量优质，放心下载使用。
THUCNews数据集
09-20
THUCNews数据集
Q音：Vue3+Pinia+Vue Router4+Vant4的移动端仿抖音短视频项目.zip(毕设&课设&实训&大作业&竞赛&
09-20
项目工程资源经过严格测试可直接运行成功且功能正常的情况才上传，可轻松复刻，拿到资料包后可轻松复现出一样的项目，本人系统开发经验充足（全领域），有任何使用问题欢迎随时与我联系，我会及时为您解惑，提供帮助。 【资源内容】：包含完整源码+工程文件+说明（如有）等。答辩评审平均分达到96分，放心下载使用！可轻松复现，设计报告也可借鉴此项目，该资源内项目代码都经过测试运行成功，功能ok的情况下才上传的。 【提供帮助】：有任何使用问题欢迎随时与我联系，我会及时解答解惑，提供帮助 【附带帮助】：若还需要相关开发工具、学习资料等，我会提供帮助，提供资料，鼓励学习进步 【项目价值】：可用在相关项目设计中，皆可应用在项目、毕业设计、课程设计、期末/期中/大作业、工程实训、大创等学科竞赛比赛、初期项目立项、学习/练手等方面，可借鉴此优质项目实现复刻，设计报告也可借鉴此项目，也可基于此项目来扩展开发出更多功能 下载后请首先打开README文件（如有），项目工程可直接复现复刻，如果基础还行，也可在此程序基础上进行修改，以实现其它功能。供开源学习/技术交流/学习参考，勿用于商业用途。质量优质，放心下载使用。
undo-log.sql
09-20
undo-log.sql
Embedding技术如何融入传统机器学习框架——以LR为例
"这篇文档探讨了如何在不使用深度学习模型的情况下，将Embedding技术融入传统的机器学习框架，特别是逻辑回归(LR)和梯度提升决策树(GBDT)。作者石塔西提出，尽管深度学习模型如DNN在推荐和广告系统中广泛应用，但...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值