[深度学习基础] PCA与LDA

最新推荐文章于 2024-03-27 12:14:36 发布
最新推荐文章于 2024-03-27 12:14:36 发布
阅读量315 收藏
点赞数
分类专栏： 深度学习数学基础
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_26020233/article/details/88893071
版权

我对PCA的浅显的理解

PCA：无监督数据降维
主成分分析，以n维数据降到m维为例：
对数据矩阵进行特征值分解，将分解得到的n个特征值由大到小排序，找到前m个特征值，再由这m个特征值对应的特征向量将原始n维数据重构为m维数据矩阵，即完成了数据降维。

LDA：有监督数据降维
线性判别分析，核心思想：将高维数据投影到低维后，使得类内方差最小，类间方差最大

hellopipu
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
python层次聚类选择类别_机器学习——传统聚类、LDA、深度学习聚类方法
weixin_42620563的博客
01-01 907
聚类的应用场景没有分类广泛，而由于无监督其算法效果也不足以运用到生产环境中去，不过其仍然是机器学习中的一个重要组成部分。文本聚类常见的应用场景就是文档标签生成，热点新闻发现等等，另外，在处理文本特征时，也可以使用聚类形成特征的低维表示。本文主要从基于特征、潜在语义分析、深度学习两个类型的方法来描述文本聚类这个任务。一、基于文本特征的方法特征表示文本在分类和聚类的任务中，其特征表示都是一...
LDA与PCA
wxn704414736的博客
06-13 255
主成分分析（PCA）原理总结http://www.cnblogs.com/pinard/p/6239403.html用scikit-learn学习主成分分析(PCA)http://www.cnblogs.com/pinard/p/6243025.html线性判别分析LDA原理总结http://www.cnblogs.com/pinard/p/6244265.html用scikit-learn进行L...
【深度学习】最强算法模型之：潜在狄利克雷分配(LDA)
最新发布
商务合作 | 面试培训 | 职场规划 ==>主页扫码
03-27 3675
LDA， 不得不会的算法模型。
我的机器学习/深度学习之路--LDA线性判别分析
weixin_49164676的博客
11-29 5307
帮助读者快速应用理解LDA，并提出了一种确定阈值的方法
深度学习基础（四）PCA和Whitening 分类： 深度学习 ...
dengxundong1074的博客
01-25 385
PCA(principal component analysis )即主成分分析，是一种常用的降维方法。 假设我们用降维操作处理一个二维的数据集（二维压缩成一维）： 在这个数据集上，我们可以计算出两个方向，我们称为主方向u1和次方向u2，其中u1的值是数据集协方差矩阵的最大特征值对应的特征向量，u2是次大特征值对应的特征向量。数据集的协方差矩阵（这个符号很...
LDA和PCA区别
weixin_30887919的博客
10-24 360
https://blog.csdn.net/brucewong0516/article/details/78684005 转载于:https://www.cnblogs.com/qlky/p/9841045.html
PCA+LDA学习资料.zip
04-21
帮助学习模式识别；PCA简而言之就是根据输入数据的分布给输入数据重新找到更能描述这组数据的正交的...LDA，基本和PCA是一对双生子，它们之间的区别就是PCA是一种unsupervised的映射方法而LDA是一种supervised映射方法
基于PCA和LDA融合算法的性别鉴别
11-04
通过PCA算法求得训练样本的特征子空间，并在此基础上计算出LDA算法的特征子空间。将PCA算法与LDA算法的特征子空间进行融合，获得PCA-LDA算法的融合特征空间。训练样本与测试样本分别朝融合特征空间投影，从而得到...
46_PCA与LDA比较1
08-03
可能不太好理解，如果要搞清楚的话，可以参考末的博客中 第4节-多类LDA原理 中的最后段。关于第4点，可以这样理解：LDA在降维过程中最化类内距离，即同类样本的
基于PCA和LDA语音情感预测与识别模型
04-21
我们选用的语音数据集为...LDA是一种监督学习的降维技术，也就是说它的数据集的每个样本是有类别输出的，这点和PCA不同。本资源基于PCA和LDA，将数据集分割为训练集和测试集，用训练集训练，测试集进行语音情感的预测。
对LDA的学习和总结
u013488563的专栏
05-17 1698
最近一直在学人脸识别中的
降维：LDA与PCA的简析理解
loserChen的博客
03-07 667
LDA LDA(二分类情况） LDA是一种监督学习的降维技术，也就是说LDA依赖于样本的类别输出。LDA的基本思路就是将样本投影到一条直线上，使类间距离尽可能变大，类内距离尽可能变小。如下图所示： 那么我们可以通过y=wTxy=w^Txy=wTx来计算投影，当x是二维的时候，我们就需要找到一个w来做投影，然后寻找最能使样本点分离的直线。 那么我们应该如何来找到最佳的w呢？ 我们分别选择两个类别的...
LDA学习与实践
qq_33035933的博客
01-08 180
1、待看 https://blog.csdn.net/aws3217150/article/details/53840029 国内方面rickjin有著名的《LDA数学八卦》，国外的Gregor Heinrich有著名的《Parameter estimation for text analysis》 2、实验 from sklearn.decomposition import LatentDi...
学习笔记一LDA降维与PCA的区别
ainimao6666的博客
03-22 2759
1、PCA无需样本标签，属于无监督学习降维；LDA需要样本标签，属于有监督学习降维。二者均是寻找一定的特征向量w来降维的，其中，LDA抓住样本的判别特征，PCA则侧重描叙特征。概括来说，PCA选择样本点投影具有最大方差的方向，LDA选择分类性能最好的方向。 2、PCA降维是直接和特征维度相关的，比如原始数据是d维的，那么PCA后，可以任意选取1维、2维，一直到d维都行（当然是对应特征值大的那些）
深度学习与自然语言处理第三次作业——LDA段落主题分布问题
weixin_44966965的博客
05-03 1821
深度学习与自然语言处理第三次作业——LDA段落主题分布问题 利用LDA模型解决段落主体分布问题
深度学习不深度-PCA与AutoEncoder
jainszhang的博客
09-16 3670
1.AutoEncoder AutoEncoder称之为自编码器,自编码器过程如下： 我们的目标是使得  越接近越好。x经过Encoder后得到y（code）可以看作是一个降维的过程，因此与PCA类似。AutoEncoder原理十分简单，可以利用y（code）做分类，在y（code）较少的情况下，则需要考虑加入噪音来平衡。 2. PCA涉及数学知识 PCA是一种数据分析方法，将原始数据...
PCA与LDA学习小结
weixin_42984268的博客
03-28 248
PCA又称为主成分分析，在数据降维上应用较多。思想就是令降维后的数据各属性方差最大化，或者互不相关。这个可以通过线性代数中的协方差矩阵及其特征值分析来实现。完成这一步后，用特征值最大的前N个特征向量，组成一个N维基底的新矩阵空间，称为压缩矩阵。最后，将数据空间与压缩矩阵相乘，就可以将原数据空间映射到N维空间中。 LDA，又称线性判别分析，可用于无监督的数据分类。主要原理是寻找一个低维空间，令数据空...
LDA模型理解（一）
zhang_ha_ha_的博客
04-19 2004
最近读了一篇发布于AIII2018的关于深度学习的文章，看了别人的论文阅读发现里面出现一个名词叫LDA模型。关于LDA有两种含义，一种是线性判别分析，一种是概率主题模型，本文讲后者。 LDA由Blei, David M.、Ng, Andrew Y.、Jordan于2003年提出，是一种主题模型，通过无监督学习方法发现文本中隐含的主题信息，目的是要以无指导学习的方法从文本中发现隐含的语义维度，即“t...
LDA（线性判别分析）与PCA
ywm_up
11-11 1534
LDA：将样本投影到低维空间上，投影后类内方差最小，类间方差最大。 PCA：让投影后的样本具有最大的发散性。 可以看看博客里面的公式推导，比西瓜书写得易懂。 一、LDA线性判别分析 LDA是一种监督学习的降维技术，也就是说它的数据集的每个样本是有类别输出的。LDA的基本思想：给定训练样例集，设法将样例投影到一条直线上，使得同类样例的投影点尽可能接近、异类样例的投影点中心尽可能远离。更简单的概括为一句话，就是“投影后类内方差最小，类间方差最大”。 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下.
pca和lda的区别
01-28
PCA（Principal Component Analysis）和LDA（Linear Discriminant Analysis）是两种常用的降维技术，它们有一些重要的区别。 首先，PCA是一种无监督学习方法，它的目标是通过线性变换将原始数据转换为一组不相关的...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值