人工智能（2）- 学习主成成分分析（PCA）进行降维

最新推荐文章于 2024-08-11 23:49:39 发布
最新推荐文章于 2024-08-11 23:49:39 发布
阅读量712 收藏 3
点赞数
分类专栏： 人工智能 文章标签： 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Game_Builder/article/details/83341134
版权
本文探讨了降维的必要性，避免因维度增加导致的分类器性能下降。介绍了PCA（主成分分析）算法的原理，包括规范化数据、构建协方差矩阵、寻找最大化方差的基。通过PCA，可以将数据从高维降至低维，同时保持大部分信息。文章还展示了使用scikit-learn实现PCA的过程，通过实例说明PCA在实际应用中的效果。
摘要由CSDN通过智能技术生成

一.为什么要进行降维？

    在进行分类的时候我们需要大量的特征来提高分类器的准确度，但是分类器的性能随着随着维度的增加，逐步上升，达到某点其性能便逐渐下降。

   为了避免性能下降的情况，我们要进行降低维度的处理。

    数据的特征分量之间往往存在一些关联，如一个网站的访问量和网站的用户之间有一定的关联，一个淘宝店的下单数和成交数有一定关联。我们通过将两个有相关关系的特征进行筛选，删除一些，来降低机器学习算法的复杂度。

    但是我们删除那些信息损失最小？如何度量丢失的信息？

二.降维原理、PCA算法    
    1.规范化d维的数据集

    2.构建协方差矩阵：

    数学解释：一个字段的方差可看作，每个元素与字段均值的差的平方和的均值，我们将字段均值化为零，问题被形式化表述为：寻找一个基，使得所有数据变换为这个基上的坐标后，方差值最大，来表示降维后数据分散。

   

    对于更高位，我们在完成了第一个投影方向的选择后，还要选择第二个投影方向，为了表示更多的原始信息，我们希望他们之间不存在（线性）相关性。数学上用协方差表示相关性，我们设置字段均值为零

   

<
最低0.47元/天 解锁文章
机器学习：基于主成分分析（PCA）对数据降维
阿极的博客
02-25 9964
主成分分析算法（Principal Component Analysis， PCA）的目的是找到能用较少信息描述数据集的特征组合。它意在发现彼此之间没有相关性、能够描述数据集的特征，确切说这些特征的方差跟整体方差没有多大差距，这样的特征也被称为主成分。这也就意味着，借助这种方法，就能通过更少的特征捕获到数据集的大部分信息。
09-30 主成分分析--降维
weixin_46400833的博客
09-30 310
主成分分析之基本概念—降维技术 假设一下场景： 一百多个自变量做聚类分析 两个变量做线性回归存在多重共线性，去掉其中一个又损失了回归的精度 这种情况下，最优的解法就是将多个变量融合为一个新的变量，使得变量的个数大大降低（降维），并且能够将有相关关系的几个指标合并为一个，消除变量之间的多重共线性， 这种 设法将原先众多的具有一定相关性的指标，重新组合为一组新的互相独立的综合指标，并代替原先的指标的技术，称为主成分技术。 例子： y1 x1 x2 x3 3 6 0 100 5 9 0 100 7 15 0
PCA的应用示例
热门推荐
Work Hard, Play Harder!
08-13 3万+
在 PCA 详细算法介绍 （http://blog.csdn.net/watkinsong/article/details/38536463） 中， 因为篇幅问题 没有给出详细的代码示例， 这里给出代码示例。 通过对人脸图像进行降维深入了解PCA算得使用。 首先看一下数据集， 我们有12张人脸图像， 用10张人脸训练PCA降维矩阵， 剩下的两张可以用作测试。
主成分分析(PCA)
blinkyou001的博客
08-11 9111
本文讲解了主成分分析（PCA）的基本原理，并利用python进行了实例演示。
7 主成成分分析（PCA）降维算法
手握灵珠常奋笔
11-30 613
7 主成成分分析（PCA）降维算法Principal Component Analysis，PCA是一种常用的降维方法，通常用于高维数据集的探索与可视化，还可以用作数据压缩和预处理等。回顾统计学名词： 方差： 协方差：用于度量两个变量之间的线性相关性程度 特征向量：描述数据集结构的非零向量PCA的原理： 矩阵的主成分就是其协方差矩阵对应的特征向量，按照对应的特征值大小进行排序，最大的特征值就
PCA降维的例子
01-20
import numpy as np import matplotlib.pyplot as plt #载入数据 data=np.genfromtxt(data.csv,delimiter=,) x_data=data[:,0] y_data=data[:,-1] plt.scatter(x_data,y_data) plt.show() print(x_data.shape) #数据中心化 def zeroMean(dataMat): #按列求平均，即各个特征的平均 meanVal=np.mean(dataMat,axis=0) newData=dataMat
使用协方差矩阵的特征向量PCA来处理数据降维
昕友软件博客
10-23 304
取2维特征，方便图形展示 import matplotlib.pyplot as plt from sklearn.decomposition import PCA from sklearn.datasets import load_iris data = load_iris() y = data.target X = data.data pca = PCA(n_c...
人工智能机器学习-主成分分析PCA降维
最新发布
09-17
人工智能机器学习-主成分分析PCA降维-MATLAB代码实现 主成分分析（PCA）是一种常用的数据降维技术，通过找到数据中方差最大的方向来实现数据的降维，同时保留数据的主要信息。PCA将原始数据转换为一组新的变量，称为...
利用PCA进行深度学习图像特征提取后的降维研究.pdf
08-19
PCA是一种常用的降维技术，其基本思想是通过正交变换将可能相关的一些变量转换成一系列线性不相关的变量，这些变量称为主成分。在高维数据中，数据往往被限制在一个或几个低维线性空间中，PCA的目的就是找到这个低维...
机器学习之降维与度量学习视频精讲
06-09
在机器学习领域，降维和度量学习是两个至关重要的概念，它们对于高效的数据处理和模型...在提供的"机器学习之降维与度量学习视频精讲"资料中，你可以系统地了解并掌握这些知识，进一步提升你在人工智能领域的专业能力。
PCA降维实例
欢迎来到关关雎鸠儿的博客
02-12 1240
1.导入数据 import numpy as np import pandas as pd df = pd.read_csv('iris.data') df.head() 2.修改列名 df.columns=['sepal_len', 'sepal_wid', 'petal_len', 'petal_wid', 'class'] df.head() 3.赋值 # split data ta...
pca降维程序
02-03
内含pca的matlab程序，简单易懂，不到百行，特征提取和数据降维的不二神器。混科研搞数据必备良代码。超低价甩卖。
不懂PCA？一个小实例带你了解PCA降维
AI_dataloads的博客
10-08 1247
每一个数据以此减去均值，得到零均值化数据（-1，-1，0，2，0）每一个数据以此减去均值，得到零均值化数据（-2，0，0，1，1）前面得到去均值化的X矩阵，利用公式，求得协方差矩阵。第一行均值：（1+1+2+4+2）/ 5 = 2。第二行均值：（1+3+3+4+4）/ 5 = 3。2无法解释降维后的数据是什么。3贡献率小的成分有可能更重要。Y=PX即为降维到k维后的数据。1.计算方法简单，容易实现。2可以减少指标筛选的工作量。3消除变量间的多重共线性。1.特征必须是连续型变量。也就是减去这一行的均值。
【降维之PCA】PCA实例
点滴记忆
10-31 656
数据介绍：PCA实现高维数据可视化目标:已知莺尾花数据是4维的，共三类样本(150*4)。使用 РСA实现鸢尾花数据进行降维，实现在二维平面上的可视化。 PCA可以将具有相关性的高维变量合成为线性无关的低维变量，成为主成分，主成分能够尽可能的保留原始数据的信息矩阵的主成分就是其协方差矩阵对应的特征向量，按照对应特征值大小排序，最大特征值为第一主成分，以此类推 import matplotlib...
利用PCA降维的手工计算实例
yimixgg的博客
09-29 6983
转载：https://blog.csdn.net/dugudaibo/article/details/78931825 PCA 的原理相信大家十分熟悉了已经，但是很多人没有真正的进行过相关的推到。在这里本文将举一个利用 PCA 降维的手工计算实例。 1 .问题的描述   已知现在有一个二维矩阵如下所示   这个是一个已经去掉均值的矩阵。其中每一行是一个维度，而每一列是一个样本。去均值...
PCA降维算法（内含PCA可视化迷你案例+PCA人脸识别降维案例+PCA逆转降噪案例）
weixin_51589123的博客
10-08 4051
文章目录1、sklearn中的降维算法（1）PCA（2）SVD（3）思考2、重要参数n_components3、PCA中的SVD4、重要接口inverse_transform5、重要接口，参数和属性总结6、案例：PCA对手写数字数据集的降维 1、sklearn中的降维算法 PCA使用的信息量衡量指标，就是样本方差，又称可解释性方 差，方差越大，特征所带的信息量越多。 （1）PCA 我们希望能够找出一种办法来帮助我们衡量特征上所带的信息量，让我们在降维的过程中，能够即减少特征的数量，又保留大部分有效信息——
人工智能——机器学习，数据特征预处理，数据降维
weixin_47601051的博客
05-12 538
数据特征预处理，数据降维 处理方法： 1，数值型数据 ： 标准缩放 （1）归一化 （2）标准化 （3）缺失值 2...
人工智能的降维映射，实在智能数字员工为企业转型创新解
bobobit的博客
08-12 518
引言：2020年，中国市场的RPA（机器人自动流程化）需求再次爆发，然而这次企业家们关注的重点却不在RPA，而是新基建的核心——AI技术上。没有良好AI基因的RPA产品只是披着人工智能外壳的流程化程序，在设定的规则下挖掘可能性，AI技术才是RPA产品持续发展的动力，RPA也将是人工智能降维应用的最好路径之一。 AI强劲赋能 蓄势已久RPA成功C位出道 由于人力成本逐年攀升，前身为按键精灵的RPA，起初作为人口红利衰竭的替补队员为企业带来提质降本的可能性，但受限于企业多元的场景、复杂分散的系统以.
sklearn的系统学习——PCA降维（案例及完整python代码）
weixin_44904136的博客
08-10 6445
在实际操作数据集的过程中，难免会遇到很多高维特征的数据，计算量也会暴增。为了在减少计算量的同时提高算法准确率，可尝试降维。下文将列出三个案例，分别是人脸识别、降噪和处理手写数据集。，即主成分分析方法，是一种使用最广泛的数据。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值