【机器学习】主成分分析

已于 2023-03-29 21:34:49 修改
阅读量424 收藏
点赞数 1
分类专栏： 【机器学习】 文章标签： 人工智能 算法
于 2022-11-19 17:14:41 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46221946/article/details/127939130
版权
主成分分析（PCA）是机器学习中的降维技术，用于缓解因高维数据带来的维数灾难。PCA通过对数据进行中心化，然后找到最大化样本方差的新坐标轴，这些坐标轴即为主成分。通过保留最重要的主成分，PCA可以在降低数据维度的同时保持大部分信息。第一主成分是样本投影后方差最大的方向，后续主成分在保持正交性的前提下依次最大化方差。PCA的几何解释是找到使样本投影后最分散的轴。选择主成分的数量通常基于方差贡献率，确保累计方差贡献率达到一定比例，如70%-80%。
摘要由CSDN通过智能技术生成

有任何的书写错误、排版错误、概念错误等，希望大家包含指正。

维数灾难

在高维情形下出现的数样本稀疏、距离计算困难等问题，是所有机器学习方法共同面临的的严重障碍，被称为“维数灾难”或“维数危机”（curse of dimensionality）。

为了方便思考，我们对离散属性（样本特征）进行分析。属性 a 1 a_1 a

了解本专栏 订阅专栏 解锁全文 超级会员免费看
不牌不改
关注
专栏目录
订阅专栏
机器学习：主成分分析（PCA）
m0_73907210的博客
06-22 926
主成分分析（Principal Component Analysis，PCA）是一种常用的数据降维方法。它通过线性变换将原始数据变换到一个新的坐标系中，使得第一个坐标（第一主成分）具有最大的方差，第二个坐标（第二主成分）具有次大的方差，以此类推。PCA的目的是从高维数据中提取出最重要的特征，通过保留最重要的主成分来实现数据的降维，同时尽可能保留原始数据的结构。
机器学习系列-主成分分析
bubingyang的博客
11-22 867
PCA降维一些机器学习算法在处理高维数据时，性能会出现明显下降，这就是所谓的“维度灾难”，为此人们开始对算法进行改进。与此同时，对降维的需求催生了降维算法，比如本文要介绍的主成分分析（Principal Component Analysis，PCA）。在开始本文的主要内容之前，我想先举一个关于降维的例子：有5个点，坐标如下表所示： id x y 1 5.0 1.4 2
主成分分析（PCA）（机器学习）
公众号：风景邮递Yuan的博客
11-18 717
尽可能如果把所有的点都映射到一起，那么几乎所有的区分信息都丢失了，而如果映射后方差尽可能的大，那么数据点则会分散开来，特征更加明显。协方差矩阵和散布矩阵都是对称矩阵，主对角线是各个随机变量（各个维度）的方差。算法目标是求出样本数据的协方差矩阵的特征值和特征向量，而协方差矩阵的特征向量的方向就是。并期望在所投影的维度上数据的方差最大，以此使用较少的维度，同时保留较多原数据的维度。---将特征向量按对应特征值从大到小按行排列成矩阵，取前。---求出协方差矩阵的特征值及对应的特征向量。
机器学习 - 主成分分析
apollo_miracle的博客
03-25 1399
学习目标 应用PCA实现特征的降维 应用：用户与物品类别之间主成分分析 1 什么是主成分分析(PCA) 定义：高维数据转化为低维数据的过程，在此过程中可能会舍弃原有数据、创造新的变量 作用：是数据维数压缩，尽可能降低原数据的维数（复杂度），损失少量信息。 应用：回归分析或者聚类分析当中 那么更好的理解这个过程呢？我们来看一张图 1.1 计算案例理解(了解，无需记忆)...
机器学习主成分分析
a1111111111ss的博客
05-05 361
机器学习主成分分析 主成分分析（Principal Component Analysis，PCA）， 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。 数据降维 PCA主要通过把数据从高维映射到低维来降低特征维度 找线的方法，让点到直线距离最小 PCA原理及实现 从 k=2->1 k=3->2(降维) 注意1：虽然PCA有...
matlab机器学习主成分分析实现代码
08-09
根据PCA基本原理自己写的PCA算法实现代码，没有使用封装函数，主成分分析函数代码，基于最原始的主成分分析理论，可与吴恩达机器学习课程配套使用
机器学习主成分分析法
05-22
机器学习主成分分析法，包含上课时用的PDF以及PPT文档
PCA主成分分析实验报告 （附MATLAB代码）.docx
03-13
PCA（主成分分析）是一种统计方法，用于将高维数据集转换为一组低维的线性组合，这些组合是原始变量的线性变换，且在数据方差中贡献最大。PCA的主要目标是减少数据的复杂性，同时尽可能保留数据集中的主要信息。在这...
机器学习 -- 主成分分析
无境
11-26 356
主成分分析 Principal Component Analysis PCA 一个非监督的机器学习算法 主要用于数据的降维 通过降维，可以发现更便于人类理解的特征 其他应用，可视化，去噪 原理： 进行降维，保留特征1 进行降维，保留特征2 上面哪种方案更好？可以看出 保留特征1 的点与点之间的间距更大，拥有更好的可区分度。这种方案比较好 还可以有更好的方案吗？ 将点映射到这条直线上 这种...
机器学习之主成分分析
m0_72946768的博客
06-16 1142
主成分分析（Principal Component Analysis, 简称PCA）是一种常见的统计方法，用于数据降维和特征提取。它通过线性变换将原始数据投影到一个由各主成分组成的新坐标系中，这些主成分是原始数据中方差最大的方向。这样做可以减少数据的维度，去除数据中的噪声和冗余信息，帮助发现数据中的模式和结构。主成分分析的目标是找到一组正交的新变量（主成分），使得数据在这些新变量上的方差最大。通过对数据的协方差矩阵进行特征值分解，可以得到主成分的方向和相对重要性，并根据这些主成分对数据进行投影和降维。
机器学习——主成分分析（PCA）
linzixi0220的博客
12-30 1871
给定n个样本（每个样本的维度为p维）​​​​​​​定义为样本在第一主成分/主方向上的投影：其中和都是用向量表示的：每个样本都对应一个，两个向量进行内积运算就能将映射到方向上，，如果将的模约束为1，那么​​​​​​​​​​​​​​和的内积就是，即​​​​​​​样本在主方向上的投影。（为什么是，如果我没理解错的话，和都是列向量，两个向量的内积应该就是第一个转置成行向量与第二个列向量相乘）主成分分析的目标是找到，使得的方差最大，同时要满足约束条件。
【机器学习】主成分分析法
Jackie035
08-15 1764
主成分分析法 目录 主成分分析法 一、主成分分析的理解 二、使用梯度上升法求解PCA 三、求数据的前n个主成分 四、将高维数据向低维数据映射 五、scikit-learn中的PCA 六、对真实数据集MNIST使用PCA 七、使用PCA降噪 八、PCA与人脸识别 一、主成分分析的理解 先假设用数据的两个特征画出散点图，如果我们只保留特征1或者只保留特征2。那么此时就有...
机器学习之主成分分析（Principal Component Analysis）
十年以上架构设计经验，专注于软件架构和人工智能领域，对机器视觉、NLP、音视频等领域都有涉猎
07-20 6249
主成分分析（Principal Component Analysis）简称PCA，是一个非监督学习的机器学习算法，主要用于数据的降维，对于高维数据，通过降维，可以发现更便于人类理解的特征。PCA是实现数据降维的一种算法。正如其名，假设有一份数据集，每条数据的维度是D，PCA通过分析这D个维度的前K个主要特征(这K个维度在原有D维特征的基础上重新构造出来，且是全新的正交特征)，将D维的数据映射到这K个主要维度上进而实现对高维数据的降维处理。
机器学习之主成分分析（PCA）
最新发布
milu的博客
06-18 1406
PCA是一种强大的降维工具，特别适用于高维数据的处理。它可以显著减少数据维度，提高计算效率，并有助于数据的可视化。然而，PCA也有其局限性，例如对非线性数据效果不佳以及主成分解释性差。在实际应用中，选择适当的主成分数量至关重要，以在降维和信息保留之间取得平衡。通过理解PCA的优缺点，我们可以更好地应用PCA，并在适当的场景中使用其他补充方法，如非线性降维技术（例如t-SNE和UMAP），以获得更好的降维效果。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

不牌不改

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值