人工智能学习笔记（六）：PCA&LDA

最新推荐文章于 2024-01-01 14:50:52 发布
最新推荐文章于 2024-01-01 14:50:52 发布
阅读量214 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Joseph0223/article/details/117089336
版权

相同点
1）两者均可以对数据进行降维。
2）两者在降维时均使用了矩阵特征分解的思想。
3）两者都假设数据符合高斯分布。
不同点
1）LDA是有监督的降维方法，而PCA是无监督的降维方法
2）LDA降维最多降到类别数k-1的维数，而PCA没有这个限制。
3）LDA除了可以用于降维，还可以用于分类。
4）LDA选择分类性能最好的投影方向，而PCA选择样本点投影具有最大方差的方向

JosephWhq
关注
人工智能_机器学习097_PCA数据降维算法_基于特征值特征向量提取主成分_数据去中心化_特征值_特征向量_EVD特征值分解原理和代码实现---人工智能工作笔记0222
添柴程序猿的专栏
06-06 214
在协方差矩阵的分析中，这些向量代表了数据中方差较大的轴，通常用于主成分分析（PCA）中的数据降维，其中数据可以沿着这些特征向量（主成分）进行投影以减少数据的维数[^1^][^3^]。随着你沿着主成分的顺序移动，每个后续的主成分解释的方差通常会减少，因为它们捕捉的是数据中剩余的变化。PCA找到的主成分（PCs）是这些子空间的正交基向量。3. `(eigen/eigen.sum())` 是将数组 `eigen` 中的每个元素除以数组元素的总和，得到一个新的数组，其中每个元素都是原数组对应元素与总和的比值。
人工智能PCA人脸识别
04-26
利用PCA技术，基于matlab平台开发一个人脸识别的小程序
人工智能 PCA人脸识别
lanshahewu的博客
08-13 537
人工智能 PCA人脸识别效果查看实现过程读取样本样本中心化奇异值处理数据处理计算样本中心计算比较新样本对特征样本显示结果验证 效果查看 前4行为驯训练样本，后面为识别及处理的效果 实现过程 这里主要使用奇异值分解： 程序编程主要围绕这个公式进行： 读取样本 样本中心化 这里记得注意：矩阵中心化是按列处理，所以程序里对只有Mean[j],最后记得求均值。最后用样本减去均值，获得新的矩阵，就是中心化了 Matrix就是最后的中心化后的矩阵。里面的std[]用于求方差的，暂时不用理会 奇异值处理 这里直接调
人工智能——主题模型LDA
weixin_46039719的博客
02-03 394
目录 1 机器学习 2 深入机器学习 3主题模型LDA 3.1 概述 3.2理解LDA 3.2.1直观版 3.2.2标准版 3.2.3公式版 3.3实战 3.3.1读取邮件 3.3.2文本预处理 3.3.3LDA模型构建 1 机器学习 2 深入机器学习 3主题模型LDA 3.1 概述 3.2理解LDA 3.2.1直观版 3.2.2标准版 (1)概述 ...
机器学习——PCA
m0_64212754的博客
12-31 865
给定n个样本（每个样本维度为p维）定义为样本在第一主成分上的投影：我们的目标是找到a1使z1的方差最大。目标：PCA 的主要目标是找到一个新的坐标系，使得在新的坐标系下，数据的方差最大化。目标是找到a1 , 使z1的方差最大。）这样做的目的是减少数据的维度，并且保留尽可能多的信息。数据中心化：将每个特征的均值都减去，使得数据的均值为零。计算协方差矩阵：计算去中心化后数据的协方差矩阵。特征值分解：对协方差矩阵进行特征值分解，得到特征值和特征向量。选择主成分：根据。
【人工智能】机器学习及与智能数据处理之降维算法PCA及其应用手写识别【自定义数据集】
qq_46556714的博客
05-13 946
import matplotlib.pyplot as plt from pathlib import Path from sklearn.svm import SVC from sklearn.preprocessing import StandardScaler from sklearn.metrics import classification_report import requests import pickle import gzip DATA_PATH = Path("data") PATH
机器学习&深度学习资料笔记&基本算法实现&资源整理.zip
最新发布
03-03
机器学习&深度学习资料笔记&基本算法实现&资源整理.zip 0.不调库系列 No free lunch. 线性回归 - logistic回归 - 感知机 - SVM(SMO) - 神经网络 决策树 - Adaboost kNN - 朴素贝叶斯 EM - HMM - 条件随机场 kMeans ...
AI学习笔记：特征工程
码大叔
04-07 600
一、概述 Andrew Ng：Coming up with features is difficult, time-consuming, requires expert knowledge. “Applied machine learning” is basically feature engineering（ 吴恩达， 人工智能和机器学习领域国际最权威学者之一：提取特征是困难的，耗时的，需...
（笔记）线性判别分析LDA
kuabiku的博客
07-21 128
Sw可能是奇异的，（如果存在数据属性方差为0） 那么就求不了逆 也就是算不出Sw。所以，哪怕在有标签类别的数据中，LDA也不是一定比PCA好的（比如下图的情况），所以在实际情况中需要先对样本进行分析。在实际应用中，可以用计算协方差的公式来计算散度矩阵，一般的仿真平台都会封装好计算协方差的函数，对于一个协方差公式。当样本均值相等时，LDA会失效，因为对于如果两样本均值相等，那么分子一定为0，在这个情况下怎么投影都没有用。PCA适用于无标签的数据中，LDA适用于有标签。来说，其散度矩阵的表达式就为。
【李宏毅2020 ML/DL】P57 Unsupervised Learning - Linear Methods | PCA & Matrix Factorization
记录学习痕迹的公众号：Piper蛋窝
08-04 888
PCA实际上是一种线性的无监督 auto-encoder 。
机器学习 | 主成分分析（PCA）
m0_65437885的博客
01-01 6549
PCA（principle component analysis），即主成分分析法，是一个非监督的机器学习算法，是一种用于探索高维数据结构的技术，主要用于对数据的降维，通过降维可以发现更便于人理解的特征，加快对样本有价值信息的处理速度，此外还可以应用于可视化（降到二维）和去噪。基本原理是通过线性变换将原始数据投影到新的坐标系，使得投影后的数据方差最大。PCA算法所要达到的目标是，降维后的数据所损失的信息量应该尽可能的少。
机器学习-主成分分析PCA
AmorFati的博客
05-18 218
主成分分析（PCA） 主成分分析属于数据降维的一种方法。 降维具有如下一些优点： 使得数据集更易使用。 降低算法的计算开销。 去除噪声。 使得结果容易理解。 降维的算法有很多，比如奇异值分解(SVD)、主成分分析(PCA)、因子分析(FA)、独立成分分析(ICA)。 参考链接 ...
人工智能（降维）——主成分分析（PCA)
weixin_46039719的博客
01-11 4910
目录 1 知识回顾 1.1 方差 1.2协方差 1.3特征向量和特征值 2 主要成份分析 2.1 数据降维 2.2主成分分析原理 2.3算法过程 3 参数说明 3.1sklearn.decomposition.PCA 3.2 PCA对象的方法 4 案例 5 Python代码实现 5.1 代码 5.2 结果 1 知识回顾 在介绍PCA的原理之前需要回顾涉及到的相关术语： • 方差 • 协方差 • 协方差矩阵 • 特征向量和特征值 ...
PCA
weixin_39516246的博客
12-23 261
why 信息的冗余增加计算成本，可以通过对数据的分析来降低数据的维度。principal component analysis(PCA)就是一种非常有效的方式。 what is PCA 我们试图通过线性映射矩阵 WWW 来对原始 ddd 维的特征空间 U=[u1,u2,⋯ ,ud]TU=[u_1,u_2,\cdots,u_d]^TU=[u1​,u2​,⋯,ud​]T 进...
人工智能概论学习笔记（六）：PCA应付考试用，勿仔细钻研
Joseph0223的博客
05-20 245
Principle component analysis (PCA): 一种用于确定高维数据模式的统计技术 可用于：减少数据中的维度数;在高维数据中查找模式;可视化高维数据 示例应用程序： 人脸识别;图像压缩;基因表达分析 一） 什么是主成分分析法 PCA(Principal Component Analysis)，即主成分分析方法，是一种使用最广泛的数据降维算法（非监督的机器学习方法）。 其最主要的用途在于“降维”，通过析取主成分显出的最大的个别差异，发现更便于人类理解的特征。也可以用来削减回归分析和聚类
PCA-LDA：PCA versus LDA for face recognition
weixin_51128278的博客
03-01 437
PCA-LDA: PCA versus LDA for face recognition 论文翻译
PCA、LDA降维——应用于wine葡萄酒数据集
热门推荐
北落师门XY的博客
07-06 1万+
参考教程：https://mp.weixin.qq.com/s/QqqLAxx92v_HOg7QBKrK6A 一、wine数据集介绍 sklearn的wine数据，它有178个样本，13个特征（Alcohol ，Malic acid ，Ash等），总共分为三类。 二、查看三个特征下的数据分布 #葡萄酒数据集+PCA import matplotlib.pyplot as plt#画图工具...
PCA（主成分分析）
杰径通幽
07-24 354
理论基础 最大方差理论、最小错误理论和坐标轴相关度理论 算法步骤 计算特征平均值，所有的样本都减去对应的均值 计算协方差矩阵，维度与特征数相同 计算协方差矩阵的特征值和特征向量 按特征值大小排序 保留前K个最大的特征值对应的特征向量 将样本点投影到选取的特征向量上（实现特征压缩） ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值