PCA和LDA之直观理解

最新推荐文章于 2020-04-02 10:33:23 发布
最新推荐文章于 2020-04-02 10:33:23 发布
阅读量618 收藏 3
点赞数 1
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41853758/article/details/82846444
版权
PCA和LDA是两种常用的降维算法。PCA通过最大化方差进行无监督降维，而LDA则是有监督的，寻找使类别间方差最大、类内方差最小的投影方向。两者在数据预设条件、目标以及应用场景上存在显著区别。
摘要由CSDN通过智能技术生成

PCA和LDA的对比

PCA和LDA都是经典的降维算法。PCA是无监督的，也就是训练样本不需要标签；LDA是有监督的，也就是训练样本需要标签。PCA是去除掉原始数据中冗余的维度，而LDA是寻找一个维度，使得原始数据在该维度上投影后不同类别的数据尽可能分离开来。

PCA

PCA是一种正交投影，它的思想是使得原始数据在投影子空间的各个维度的方差最大。假设我们要将N维的数据投影到M维的空间上（M<N），根据PCA，我们首先求出这N维数据的协方差矩阵，然后求出其前M个最大的特征值所对应的特征向量，那么这M个特征向量即为所求的投影空间的基。

LDA

<

最低0.47元/天 解锁文章
Paulzhao6518
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
机器学习之降维方法：PCA和LDA的区别
平原的博客
08-10 1万+
一、PCA（主成分分析） 二、LDA（线性判别分析） 1、二类LDA原理 2、多类LDA原理 3、LDA算法流程 4、LDA算法小结 三、 LDA 和 PCA区别 一、PCA（主成分分析） PCA是一种无监督的数据降维方法 降维是对数据高维度特征的一种预处理方法。降维是将高维度的数据保留下最重要的一些特征，去除噪声和不重要的特征，从而实现提升数据处理速度的目的。在实际的生...
机器学习之降维算法（PCA和LDA）
L
05-08 556
目录 降维的例子 主成分分析（Principal Components Analysis，PCA） 线性判别分析（Linear Discriminant Analysis，LDA） 降维的例子 很多时候给定的数据向量维数都很高，典型的一个例子就是自然语言处理中词的One-hot编码，编码后的向量维数和词典的大小相同，但是词典通常有十几万甚至更多的词，也就是一个词表示...
LDA和PCA的理解
sun___shy的博客
11-06 827
版权声明：     本文由LeftNotEasy发布于http://leftnoteasy.cnblogs.com, 本文可以被全部的转载或者部分使用，但请注明出处，如果有问题，请联系wheeleast@gmail.com 前言：    谈到LDA，就不得不谈谈PCA，PCA是一个和LDA非常相关的算法，从推导、求解、到算法最终的结果，都有着相当的相似。    本次的内容主要是以推导数学公...
pca与lda区别
dashan8608的博客
11-28 473
转自https://www.jianshu.com/p/982c8f6760de 本文用于理解机器学习中常见的两种降维方法，主成分分析和线性判别分析，并对两者进行简单的对比。 基本目录如下： 什么是PCA？ 1.1 先导数学知识准备 1.2 PCA基本概念理解 1.3 PCA推导之最大方差理论 什么是LDA？ 2.1 LDA基本概念理解 2.2 LDA理论推导 ...
pca 和lda区别
热门推荐
chivalry
10-15 5万+
http://blog.csdn.net/scyscyao/article/details/5987581 这学期选了门模式识别的课。发现最常见的一种情况就是，书上写的老师ppt上写的都看不懂，然后绕了一大圈去自己查资料理解，回头看看发现，Ah-ha，原来本质的原理那么简单，自己一开始只不过被那些看似formidable的细节吓到了。所以在这里把自己所学的一些点记录下来，供备忘，也供参考
文献阅读与复现（基于PCA图像重建和LDA的人脸识别）
weixin_43462370的博客
11-16 1384
基于PCA图像重建和LDA的人脸识别 Face recognition based on PCA image reconstruction and LDA 以下文字和代码大部分非原创，只为了一个记录留作备用复习的功能，侵删。 一、散射矩阵 百度百科：散射矩阵是物理学中描述散射过程的一个主要观测量。假设散射源为很好的定域散射源，与被散射粒子的相互作用局限在有限的空间范围内，那么，无穷远时间以前粒子...
线性降维之LDA与PCA
刘炫320的博客
07-20 2237
1.前言如果我只说LDA，那么对于自然语言处理的人来讲，可能更熟悉的是LDA主题模型。但是一旦我跟上PCA了，那么这两个兄弟，我相信从事机器学习相关的同学就会知道，这是在讲——线性降维。2. 摘要我们这里首先给出LDA和PCA之间的区别与联系，然后我们再详细讲解两个线性降维方法。因为实际上，scikit-learning机器学习工具包中就已经包含了LDA和PCA降维的实现，因此我们如果在应用时，可以
数据挖掘：特征提取——PCA与LDA
AvenueCyy的博客
04-02 8058
在数据维度很高时，我们会从中提取出一些有用的特征，降低数据处理的维度，方便计算，这个过程也被叫做降维。 一般常用的降维方法有PCA和LDA。 PCA：非监督降维，降维后数据的方差尽可能的大（方差大，含有的信息量就大） LDA：有监督降维，降维后，组内（同一类别）方差小，组间（不同类别之间）方差大 主成分分析PCA PCA的直观理解 PCA的一般用途： 聚类：把复杂的多维数据转为少量数据，易...
LDA PCA ICA
callback的专栏
03-30 427
版权声明： 本文部分参考于文章（LeftNotEasy发布于http://leftnoteasy.cnblogs.com），对此为了以表尊重写下参考文章的版权声明如下：本文由LeftNotEasy发布于http://leftnoteasy.cnblogs.com, 本文可以被全部的转载或者部分使用，但请注明出处，如果有问题，请联系wheeleast@gmail.com LDA LDA的全称是...
facedetection.rar_LDA人脸_PCA _LDA_PCA-LDA matlab_pca detection_最小
07-14
总之，这个资源集合对于理解和实践基于PCA、LDA的人脸检测技术非常有价值。通过运行和分析这些Matlab代码，不仅可以掌握基本的降维和分类方法，还可以探索如何在实际应用中优化这些技术，以提高人脸识别的准确性和...
KPCA_PCA_LDA
09-20
在"PCA_LDA_test.m"文件中，LDA的实现可能包括计算类内和类间散度矩阵，然后找到最大化类间散度与最小化类内散度之比的方向。LDA相比于PCA，更注重分类性能，因此在有标签数据集上表现优秀。 通过对比"PCA_test.m...
FisherFace（PCA+LDA)
11-14
**FisherFace算法详解** FisherFace是一种基于主成分分析(PCA)和线性判别分析(LDA)的面部识别技术。在人脸识别领域，它以其高效性和准确...MATLAB代码提供了一个直观的学习平台，可以帮助我们理解和实现这一经典算法。
LLE.zip_LDA降维_PCA的降维_lle_lle降维_pca降维
09-24
在机器学习领域，数据预处理是至关重要的步骤之一，其中...在处理非线性问题时，LLE可能比PCA表现更好，但可能不及LDA直观且易于解释。因此，理解这些方法的本质差异，并根据具体情况灵活选择，是提升模型性能的关键。
pca.rar_pca
09-23
PCA（主成分分析，Principal Component Analysis）是一种广泛应用的数据降维技术，主要目的是通过线性...同时，PCA也可以用于数据可视化，特别是在高维数据集上，通过将其降低到二维或三维，便于直观理解数据的结构。
pillow_heif-0.17.0-pp39-pypy39_pp73-macosx_14_0_arm64.whl
07-27
基本介绍 名称与起源：Pillow，原名为PIL（Python Imaging Library），但PIL只支持Python 2版本。随着Python 3的普及，Pillow作为PIL的一个分支出现，兼容Python 3并提供更多的功能和改进。 主要功能：Pillow支持多种图像格式的打开、保存、显示以及基本的图像操作和处理，如裁剪、缩放、旋转、翻转、滤镜应用等。 跨平台性：Pillow库可以在不同的操作系统上运行，包括Windows、Linux和MacOS等。 主要功能模块 Pillow库包含多个功能模块，每个模块都提供了特定的图像处理功能。以下是一些常用的模块： Image：用于处理图像文件，提供打开、保存、调整大小、旋转、裁剪、滤镜等功能。 ImageDraw：提供在图像上绘制各种形状（如线条、矩形、圆形）和文本的功能。 ImageFont：用于加载和使用TrueType字体文件，以便在图像上绘制文本时设置字体样式、大小和颜色。 ImageFilter：提供各种滤镜效果，如模糊、锐化、边缘增强等，用于图像增强、特效处理和图像识别等应用。 ImageEnhance：用于调整图像的亮度、对比度、颜色饱和度等参数，使图像更加清晰、明亮或具有特定的调色效果。 高级功能 除了基本的图像处理功能外，Pillow还支持一些高级功能，如色彩空间转换、直方图均衡化等。这些功能可以帮助用户进行更复杂的图像处理和分析。
cykooz.resizer-3.0.0-cp310-cp310-macosx_11_0_arm64.whl
07-27
python库，可以直接安装使用，再也不怕自己pip下载，出现等待超时的现象。欢迎下载使用，使用过程中如有使用问题，请及时与我沟通交流，帮你解决！ python库，可以直接安装使用，再也不怕自己pip下载，出现等待超时的现象。欢迎下载使用，使用过程中如有使用问题，请及时与我沟通交流，帮你解决！ python库，可以直接安装使用，再也不怕自己pip下载，出现等待超时的现象。欢迎下载使用，使用过程中如有使用问题，请及时与我沟通交流，帮你解决！ python库，可以直接安装使用，再也不怕自己pip下载，出现等待超时的现象。欢迎下载使用，使用过程中如有使用问题，请及时与我沟通交流，帮你解决！ python库，可以直接安装使用，再也不怕自己pip下载，出现等待超时的现象。欢迎下载使用，使用过程中如有使用问题，请及时与我沟通交流，帮你解决！
[毕设]Delphi题库管理与试卷自动生成系统.zip
最新发布
07-27
[毕设]Delphi题库管理与试卷自动生成系统
131 种水果、蔬菜和坚果的 90380张的高质量图像数据集+图像识别与定位+该数据集相关的研究论文
07-27
<项目介绍> 包含131 种水果、蔬菜和坚果的 90380张的高质量图像数据集+该数据集相关的研究论文。可供深度学习图像识别与定位。 - 训练集大小：67700 个图像 测试集大小：22888 个图像 文件名格式：image_index_100.jpg（例如 32_100.jpg）或 r_image_index_100.jpg（例如 r_32_100.jpg）或 r2_image_index_100.jpg 或 r3_image_index_100.jpg。 “r”代表旋转水果。 “r2”表示水果绕第三轴旋转。 “100”来自图像尺寸（100x100 像素）。 水果是如何拍摄的: 1:使用 C920 摄像机拍摄水果。最好的网络摄像头之一。 2:在水果后面，我们放了一张白纸作为背景。 3:将水果和蔬菜种植在低速电机（3转/分钟）的轴中，并录制一段20秒的短片。 下载后请首先打开README.md文件（如有），仅供学习参考, 切勿用于商业用途。 --------
LDA教程：数据降维与分类解析
教程中可能会通过实例展示PCA和LDA在相同数据集上的效果，以直观地展示两者在保留类别信息和降维效果上的差异。 LDA的局限性： 尽管LDA在很多情况下表现优秀，但它也有一些限制，如假设数据是高斯分布且各类别的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值