机器学习---降维之PCA主成分分析法

最新推荐文章于 2024-08-11 23:49:39 发布
最新推荐文章于 2024-08-11 23:49:39 发布
阅读量6.3k 收藏 18
点赞数 1
分类专栏： 机器学习 文章标签： 机器学习 降维 PCA主成分分析法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u011470552/article/details/54862484
版权
本文介绍了PCA（主成分分析）的主要目的——降维，并详细阐述了PCA的算法流程、如何从压缩数据中恢复原数据以及如何决定降维的主成分个数。同时，讨论了在机器学习中不应依赖PCA解决过拟合问题，建议使用正则化项。PCA应在训练数据上进行，用于改善处理结果不理想的情况。
摘要由CSDN通过智能技术生成


（一）、主成分分析法PCA简介 

  • PCA 目的：降维——find a low dimension surface on which to project data ~
如图所示，寻找蓝色的点到直线的垂直距离的和最小的直线（向量）


 PCA 与 Linear Regression 的区别：
 PCA衡量的是点到直线的垂直距离, 而linear regression是所有x点对应的真实值y=g(x)与估计值f(x)之间的vertical distance距离，如下图所示：



（二）、PCA 算法流程 
假设有m个samples，每个数据有n维。

第一步：数据处理
首先要进行数据正则化，将点的各个features处理在相同的数量级。



 第二步：PCA算法选取k个主分量

最低0.47元/天 解锁文章
Itzel_yuki
关注
专栏目录
数据处理-主成分分析-数据降维-pca聚类-pca
09-04
1用主成分分析法求2018年1-12月小河闸断面主要污染物（主成分）和对应的主成分得分，下面列出详细计算过程。 2pca实现人脸检测 代码思路：先用PCA实现对人脸特征的提取并降维，再使用感知机实现多分类。训练集共包含...
判断主成分个数
weixin_34037173的博客
11-07 6825
2019独角兽企业重金招聘Python工程师标准>>> ...
数据降维：主成分分析法（PCA）
weixin_53972936的博客
03-06 1万+
主成分分析是一种最常用的无监督降维方法，通过降维技术把多个变量化为少数几个主成分的统计分析方法。这些主成分能够反映原始变量的绝大部分信息，它们通常表示为原始变量的某种线性组合。
主成分分析(PCA)
最新发布
blinkyou001的博客
08-11 4235
本文讲解了主成分分析（PCA）的基本原理，并利用python进行了实例演示。
秒懂数据降维——主成分分析PCA
gjinc的博客
06-20 4916
主成分分析（Principal Component Analysis，简称 PCA）是一种常用的数据降维方法，旨在通过将高维数据投影到低维空间中的主要方向来捕获数据的本质结构。主成分分析可用于降低数据的维度，压缩图像、音频和视频数据，去除冗余信息等。
主成成分分析pca算法 原理解析
01-06 3436
目前，pca算法已经广泛应用于各方面，就拿图像处理，经常做的一件事就是当提取的图像特征维度比较高时，为了简化计算量以及储存空间，需要对这些高维数据进行一定程度上的降维，并尽量保证数据的不失真。   先举个例子，方便理解：     1）对于一个训练集，100个sample(i=1,2,3,...,100)，特征Xi是20维.[Xi1,Xi2,Xi3,...Xij,...,Xi20]
主成分分析（PCA）
m0_63047033的博客
01-01 2217
也是多元统计中的重要部分，在数据分析、机器学习等方面具有广泛应用。主成分分析目的是用较少的变量来代替原来较多的变量，并可以反映原来多个变量的大部分信息。
PCA降维（主成分分析法）
CSTGYinZong的博客
09-28 5337
如图，红色虚线是新的坐标轴，我们叫它PC1；但是我们将数据投影在新的坐标轴上，就是为了能用尽可能少的特征来表达整个数据的信息。（2）当：各个属性单位不同时，（比如，一个是kg，一个是米）这个时候，由于单位不同，协方差不表示相关程度，这时候，我们就要使用相关系数来进行描述。新坐标轴，旧坐标轴的讨论好麻烦，我们直接把数据去中心化（就是数据的均值在远点上）。（1）当：各个属性单位相同时（比如，都是kg，都是米），各个属性是可比较的。举个数据是二维的李子，我们将原始数据（蓝点）投影到新的最标轴上（黄蓝十字线）。
机器学习之主成分分析PCA数据降维
01-20
主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。 在统计学中，主成分分析PCA是一种简化数据集的技术。它是一个线性变换。这个变换把数据变换到一个新的坐标系统中，使得任何数据...
pca-主成分分析.zip
05-11
PCA（主成分分析，Principal Component Analysis）是一种统计方法，用于将多维数据转换为一组新的正交变量，这些新变量按方差大小排序，被称为主成分。PCA的主要目的是减少数据的维度，同时最大化保留原始数据集中的...
特征脸(Eigenface)理论基础之PCA主成分分析法
09-20
PCA（主成分分析）是一种常用的数据分析方法，用于降维和发现数据的主要结构。特征脸（Eigenface）方法在人脸识别领域广泛应用，其理论基础正是PCA。PCA通过转换原始数据，找到一组新的坐标轴（主成分），使得数据在...
matlab 实现主成分分析（PCA）
06-04
主成分分析（PCA）是一种广泛应用于数据分析和机器学习领域的统计方法，主要目的是通过线性变换将高维数据转换为低维表示，同时保留原始数据的主要特征。PCA通过对数据进行正交变换，找到新的坐标轴（主成分），这些...
PCA降维以及维数的确定
Startapi的博客
06-18 8831
概述 PCA（principal components analysis）即主成分分析技术，又称为主分量分析，旨在利用降维的思想，把多个指标转换为少数的几个综合指标。 主成分分析是一种简化数据集的技术，它是一个线性变换。这个线性变化把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标上（称为第一主成分），第二个大的方差在第二个坐标上（称为第二主成分），以此类推。主成分分析经常用于减少数据集的维数，同时保持数据集的对方差贡献最大的特征。这是通过保留低阶主成分，忽略高阶主成分做到的。这样低阶
降维算法之PCA(主成分分析)
SKIp121whats112的博客
02-08 5592
降维算法之PCA(主成分分析)
PCA算法详解——化繁为简
weixin_44167798的博客
08-30 1万+
一、pandas是什么？ 二、使用步骤 1.引入库 2.读入数据 总结 一、前言 老鹰是一个三维立体实物，而图片是二维的，但我们能一眼识别出上图是一只老鹰而非鹌鹑，可见对于某些高维的数据，我们可以在低维空间下识其概貌，对其有个清晰的认知。然而，当我们沿老鹰翅尖拍摄一张照片，我们可能并不能很容易地看出这是一只老鹰。归其原因，拍摄的角度不同，导致最终的结果不同，在第一种情况下，图片保留...
降维算法之PCA：从原理到应用，8000多字，助你彻底理解！
ZuHaohua的博客
06-20 1万+
本文首先使用数形结合介绍了PCA的原理，推导了PCA的公式；之后介绍了实现PCA算法的两种具体方式；最后使用sklearn库应用了PCA对图像数据进行降维。
偏最小二乘法回归（Partial Least Squares Regression）
Ai_yunyun的博客
10-09 3476
PCA 通过线性变换将原始数据变换为一组各维度线性无关的表示，可用于提取数据的主要特征分量，常用于高维数据的降维。中的数据点按特征进行 PCA 之后，拆接出单个映射方向的特征向量及投影，再用投影对。就是要求的投影方向。缺点在于对特征的处理方式比较粗糙，用的是线性回归来表示。可逆，这样就可以用最小二乘法来进行回归了，这样的称为主元回归（PCR）。在某条线上的投影，因此会存在线性回归的一些缺点；（这里的主成分并不是通过 PCA 得出的主成分）在计算模型的过程中，得到了。6）综合 4）和 5），得到优化目标。
PCA主成分数量（降维维度）选择
热门推荐
ybdesire的专栏
03-21 6万+
用PCA做降维，降到多少维合适呢？
主成分分析法(PCA)
sachxpsta的专栏
04-06 4013
主成分分析法主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。这些涉及的因素一般称为指标，在多元统计分析中也称为变量。因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。在用统计方法研究多变量问题时，变量太多会增加计
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值