[机器学习]PCA（principal component analysis）

最新推荐文章于 2024-05-18 22:41:35 发布
最新推荐文章于 2024-05-18 22:41:35 发布
阅读量1.8k 收藏 4
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhouxinxin0202/article/details/78618565
版权

PCA(主成分分析)属于无监督学习的范畴，是一种降维方法。PCA选取包含信息量最多的方向对数据进行投影。

1. 推导PCA的2种方法（需回顾）

1）从重建误差最小化的角度

2）从方差最大化的角度

（详细推导见机器学习圣经 PRML ）。

2. 求解方法

求解特征值和特征向量的方法分为 一般方法 和 使用技巧的方法

1）普通方法 

直接 特征分解，求特征值和特征向量。

2）技巧--svd分解


3. 鲁棒PCA

 我的硕士大论文回顾了相关研究。robust convex clustering论文用到了

1）robust pca

1.1) 从低秩的角度，主成份追踪（principal component pursuit，PCP）算法：


L 是一个低秩矩阵

最低0.47元/天 解锁文章
Lucky和小白
关注
  • 0
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Robust PCA 学习笔记
Rachel Zhang的专栏
02-05 6万+
很久没有写学习笔记了，年初先后忙考试，忙课程，改作业，回家刚安定下来，读了大神上学期给的paper，这几天折腾数学的感觉很好，就在这里和大家一起分享一下，希望能够有所收获。响应了Jeffrey的建议，强制自己把笔记做成英文的，可能给大家带来阅读上的不便，希望大家理解，多读英文的东西总没坏处的。这里感谢大神和我一起在本文手稿部分推了一些大牛的“ easily achieved”stuff... 本文
Robust Principal Component Analysis?（PCP）
MTandHJ的博客
04-15 1653
文章目录引一些微弱的假设：问题的解决 Candes E J, Li X, Ma Y, et al. Robust principal component analysis[J]. Journal of the ACM, 2011, 58(3). 引 这篇文章，讨论的是这样的一个问题： M=L0+S0 M = L_0 + S_0 M=L0​+S0​ 有这样的一个矩阵M∈Rn1×n2M \in \...
视频前背景分离论文之（1） Online Robust PCA via Stochastic Optimization
鼹鼠的胡须 的博客
11-30 1070
视频前后背景分离论文：Online Robust PCA via Stochastic Optimization
（简单易懂）PCA：Principal Component Analysis 主成分分析
最新发布
qq_39214409的博客
05-18 1659
Principal Component Analysis（PCA）是一种数据降维方式，可以将n维数据降低到指定的k维。此时延伸出一个问题，为什么数据要进行降维操作。如 Figure 1 在我们常用的二维坐标系中，我们可以很容易的观察出二维数据的分布规律，从而判断出数据的特性。假设在此数据的基础上，加上z轴，每个数据点在z平面上的抖动非常小，则数据点在z轴的变化对于数据整体的特性影响很小。我们足以在x、y轴上观察到数据的主要规律，那么数据在z轴上的维度可以选择忽略。
c++求矩阵的秩_低秩稀疏矩阵恢复算法整理与仿真
weixin_39627661的博客
11-23 613
一曲新词酒一杯，去年天气旧亭台。夕阳西下几时回？ 无可奈何花落去，似曾相识燕归来。小园香径独徘徊。 ———《浣溪沙·一曲新词酒一杯》——晏殊更多精彩内容请关注微信公众号 “优化与算法” 上一期介绍了低秩矩阵填充问题，这一期介绍一下低秩稀疏矩阵恢复问题。1. 低秩矩阵恢复将一个矩阵 分解为一个低秩矩阵部分 和一个独立同分布的高斯矩阵 的问题是经典的主成分分析（PCA）问题，可以通过对矩阵 进...
主成分分析（PCA）
梁小憨憨的博客
08-01 1438
最近看共空间分析（CSP）算法，用到了PCA，就在这里整理一下
Robust PCA
ChanMon的博客
06-07 3426
1 引言 1.1 想法的来源 假设我们有一个大的数据矩阵 ，并且知道它可以被分解为 ， 其中， 是低秩的， 是稀疏的，这两个分量的大小是任意的。我们不知道 的低维列空间和行空间，甚至不知道它们的维数。同样地，我们也不知道 中非零元素的位置，甚至不知道有多少个非零元素。我们有希望准确地(甚至精确地)和有效地恢复低秩和稀疏分量吗? 对于上述问题，一个可证明正确和可扩展的解 可能会对 当今数据密集型的科学发现 产生影响。近年来，科学、工程和社会领域中大量高维数据的激增，给图像、视频、多媒体处理、we
机器学习之主成分分析(PCA）
dangzhileiqaz的专栏
12-21 1463
主成分分析：
主成分分析，Principal Component Analysis(PCA)
05-10
主成分分析（PCA，Principal Component Analysis）是一种常见的数据分析方法，主要用于高维数据集的降维。它通过线性变换将原始数据转换为一组各维度线性无关的新变量，这些新变量被称为主成分。PCA的主要目的是保留...
主成分分析（Principal Component Analysis，PCA）
12-21
主成分分析（PCA）是一种广泛应用于数据科学和机器学习领域的降维技术，旨在将高维度数据转换成一组线性不相关的低维度特征，这些新特征称为主成分。PCA通过正交变换来实现这一过程，目的是在减少数据复杂性的同时...
PCPKit:主成分追踪和矩阵完成算法的MATLAB实现
05-20
PCP套件 用于主成分追踪和矩阵完成的MATLAB库。 PCP功能： pcp_fro（高斯噪声） pcp_l1（稀疏噪声） pcp_l1l2（列高斯噪声） 矩阵完成函数： mc_svt（奇异值阈值） mc_lin（线性化ADM） mc_ialm（不精确的ALM） mc_relax_lin（宽松的线性化梯度下降） mc_relax_lin_ext（宽松的线性化扩展GD） mc_relax_lin_acc（宽松的线性化加速GD） 选择性PCP： sel_pcp（线性化ADM） 有关更多详细信息，请参见文档，演示和功能本身。 由斯蒂芬·蒂尔尼（ ）创建
pcp的rpca的matlab的代码-onlineRPCA:在线鲁棒主成分分析
05-23
pcp的rpca的matlab的代码在线健壮的PCA 批处理和在线健壮PCA（健壮主成分分析）实现和示例（Python）。 此处提供了对matlab的翻译。 基于主成分追踪（ RPCA-PCP ）的鲁棒PCA是最流行的RPCA算法，它通过求解主成分追踪将观察到的矩阵M分解为低秩矩阵L和稀疏矩阵S： \ min || L || _ * + \ lambda || S || _1 st L + S = M 其中||。|| _ *是核范数，||。|| _1是L1范数。 有关详细信息，请参见[]。 里面有什么？ 文件夹rpca包含各种批处理和联机的健壮PCA算法。 pcp.py：基于主成分追踪（RPCA-PCP）的强大PCA。 参考：Candes，Emmanuel J.等。 “稳健的主成分分析”。 ACM杂志（JACM）58.3（2011）：11。 spca.py：稳定的主成分追踪（Zhou et al。，2009）。 此实现使用带有固定mu_iter的Accelrated Proximal Gradient方法。 参考：周子涵，等。 “追求稳定的主成分”。 信息理论学报（ISIT），2010
基于鲁棒主成分分析和局部时空方向特征的微表情识别
03-06
基于鲁棒主成分分析和局部时空方向特征的微表情识别
降维方法工具包drtoolbox
06-07
提供了PCA、LDA、MDS、LLE等线性非线性的降维方法的实现，可以直接调用。
机器学习PCA降维实战项目
02-11
在这个"机器学习PCA降维实战项目"中，我们将深入探讨PCA的基本原理、实现步骤以及其在实际数据集上的应用。 首先，PCA的核心思想是找到原始数据集的主要成分，这些主要成分能最大化数据的方差，同时尽可能保持数据...
机器学习之PCA
12-21
PCA（主成分分析法—Principal Component Analysis）一. 求数据的前n个主成分二. 高维数据映射为低维数据 一. 求数据的前n个主成分 紧接着上次汇报的内容： ⟶将周围离散的点分别映射到这条直线上\stackrel{将周围...
机器学习之PCA降维.zip
06-17
PCA（主成分分析，Principal Component Analysis）是一种广泛应用的统计学方法，主要目的是通过线性变换将高维数据转换为一组各维度线性无关的表示，同时最大化数据的方差，从而降低数据的复杂性，同时尽可能保留...
机器学习pca+SVM
10-10
PCA和SVM是机器学习中常用的两个技术方法。 PCA（Principal Component Analysis，主成分分析）是一种无监督学习方法，用于降低数据维度。它通过线性变换将原始数据投影到一个新的特征空间，使得投影后的特征之间具有最大的方差。这样做的好处是可以去除数据中的冗余信息，提取出最主要的特征。PCA被广泛应用于数据预处理、特征提取和可视化等领域。 SVM（Support Vector Machine，支持向量机）是一种有监督学习方法，用于分类和回归问题。它通过构建一个能够将不同类别的样本分隔开的超平面，从而实现分类。SVM的目标是找到一个最大间隔的超平面，使得离超平面最近的样本点到超平面的距离尽可能大。SVM可以处理高维数据，并且在处理非线性问题时可以使用核函数进行映射。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值