线性判别分析 LDA 样本中心投影 推导

最新推荐文章于 2023-05-30 23:19:05 发布
VIP文章 最新推荐文章于 2023-05-30 23:19:05 发布
阅读量1.5k 收藏 16
点赞数 7
分类专栏： 机器学习 文章标签： lda 机器学习 ML 线性判别分析
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/csdn_inside/article/details/85123733
版权

最近回看周志华老师的《机器学习》，里面对于LDA算法做了简单的描述。

当时对于样本中心在直线上的投影为没太看懂，现在索性就推了一下，其实很简单。

以平面二维为例：

设为样本中心点，LDA直线为，

投影直线的斜率与LDA直线垂直，斜率为，求得直线：

最低0.47元/天 解锁文章
csdn_inside
关注
  • 7
    点赞
  • 踩
  • 16
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
如何画lda投影结果_线性判别分析（LDA）原理总结
weixin_42499335的博客
01-10 1498
前言线性判别分析(Linear Discriminant Analysis，以下简称LDA)是有监督的降维方法，在模式识别和机器学习领域中常用来降维。PCA是基于最大投影方差或最小投影距离的降维方法，LDA是基于最佳分类方案的降维方法，本文对其原理进行了详细总结。目录1. PCA与LDA降维原理对比2. 二类LDA算法推导3. 多类LDA算法推导4. LDA算法流程5. 正态性假设6. ...
线性判别分析LDA（（公式推导+举例应用））
最新发布
01-09
无
LDA线性判别分析——投影的疑问解答
BTboay
08-25 2899
在周志华老师的《机器学习》中，线性判别这一节中说，样本点在直线上的投影为，这和线性代数中正交投影中所描述的可不大一样。 首先，要明确一点，是指投影后的点到原点的距离，而不是投影后的点，原书有点误导。 因为，线性判别分析要分析投影后的点的距离（类间散度，类内散度），所以不用求投影点，直接求投影后的距离就可以了。 但是这并没有解答主要疑问，根据正交投影的公式，投影后距离也不是 先来看一下，正...
线性判别分析LDA
ZHT2016iot的博客
06-09 326
一 LDA简介 1.点在直线上的投影 先回顾一下几何的知识，因为LDA采用了向量投影的方式将样本点投影在直线上。 假设P点是一个样本，我们想把P点投影到绿色的虚线上。考虑用向量投影，即OP→\overrightarrow{OP}OP投影到 OM→\overrightarrow{OM}OM上，投影为∣OM→∣=∣OP→∣cosθ=∣OP→∣OP→∗OM→∣OP→∣∣OM→∣=OP→∗u→|\overrightarrow{OM}|=|\overrightarrow{OP}|cos\theta=|\overri
机器学习笔记 线性判别分析（LDA）（Linear Discriminate Analysis）
hustjlshi
01-27 2584
上篇博客分析了PCA（https://blog.csdn.net/qq_38366615/article/details/86663634），这次对LDA做一下分析。 与LDA与PCA一样，都是对数据进行绛维，但是，考虑的方向不一样，PCA主要是寻找数据的主要特征，然后将数据转换到这些特征上，而LDA则将数据的标签类型考虑进来，要求数据绛维后仍然可分。从这个层面上来说，PCA是一种无监督学习而L...
LDA总结与实例分析
bobo的烧烤店
11-19 4035
LDA总结与实例分析LDA简介LDA计算过程符号铺垫求解过程LDA示例分析LDA优缺点 **最近AI导论老师介绍了线性判别分析，但是由于板书全英文加上老师讲课过快，课上我没能完全理解LDA的原理。课下做了很多功课，才初步对LDA有了一个认识。下面我按照老师的板书流程并添加注释来讲述LDA求解全过程。 ** LDA简介 LDA全称Linear Discriminant Analysis，意为线性判别...
机器学习之线性判别分析（LDA）
Tracy_LeBron的博客
03-25 641
在上一篇文章中，介绍了主成分分析法（PCA），这里我们介绍另外一种经典的降维方法和—线性判别分析（LDA）。LDA是一种监督学习的降维技术，也就是说它的数据集的每个样本是有类别输出的。这点和PCA不同。PCA是不考虑样本类别输出的无监督降维技术。LDA降维是要将数据在低维度上进行投影，投影后希望每一种类别数据的投影点尽可能的接近，而不同类别的数据的类别中心之间的距离尽可能的大，用一句话概括，就是“...
线性判别分析（LDA）算法总结
weixin_34029680的博客
09-28 219
LDA也称Fisher线性判别法，它是一种非迭代的分类算法。算法的主要思想将特征空间中的样本投影到该空间的一条直线上以实现从高维到一维的数据压缩。显然这样的投影有很多方向，而LDA算法就是寻找一个最佳投影方向来使样本的类内距离最小而类间距离最大。 投影方向：1、投影后不同类别的样本均值的差别应尽可能大，即类间距离尽可能大；2、投影后相同类别的样本方差...
贝叶斯线性判别分析LDA_lda_贝叶斯判别分析LDA_线性判别分析_slabsmml_
10-01
贝叶斯判别分析，用于降维和分类，包含多个程序，亲测可以有实例
线性判别分析LDA算法代码
03-17
经典监督式学习降维方法线性判别分析LDA算法的MATLAB代码，具有降维性能好的特点，同时可以用于分类，是一种具有代表性的降维算法
线性判别分析LDA.m
07-02
西瓜书 lda（matlab）代码，数据集3.0
LDA-线性判别分析
12-06
将高维的模式样本投影到最佳鉴别矢量空间，以达到抽取分类信息和压缩特征空间维数的效果，投影后保证模式样本在新的子空间有最大的类间距离和最小的类内距离，即模式在该空间中有最佳的可分离性，与PCA区别：LDA考虑...
古有书山“勤”为径，现今升职加薪何为“径”？
CDA数据分析师
11-19 348
“书山有路勤为径，学海无涯苦作舟”这并非只是莘莘学子的写照，也是新时代职场人的真实光景。 时代瞬息万变，想要站稳脚跟，不与时代脱节，就需要奉行“活到老，学到老”的心态。 人工智能技术的突飞猛进，网络刷题越来越普遍，像IT领域，程序员会去leetcode、牛客网等刷题学习。然而，快速发展的朝阳产业大数据领域，成熟且认可度的刷题库却相对较少。 今天，小编就为DT界人士推荐一款刷题库【CDA数据分析题库大全】，是数据分析从业者刷题必备！ CDA数据分析刷题神器的优势 1、数据分析专项练习题库，覆盖
线性判别分析(LDA)原理及应用详解
AI蜗牛车
06-05 1万+
前置知识线性分类指存在一个线性方程可以把待分类数据分开，或者说用一个超平面能将正负样本区分开，表达式为 。线性分类器线性分类器就是用一个“超平面”将两个样本隔离开，如：二维平面上的两个样本用一条直线来进行分类；三维立体空间内的两个样本用一个平面来进行分类；N维空间内的两个样本用一个超平面来进行分类。常见的线性分类器有：LR，贝叶斯分类，单层感知机、线性回归，SVM（线性核...
【机器学习】LDA线性判别分析
gogo小Sa的专栏
05-31 7411
【机器学习】LDA线性判别分析1. LDA的基本思想2. LDA求解方法        线性判别分析 (Linear Discriminant Analysis，LDA)是一种经典的线性学习方法，在二分类问题上因为最早由[Fisher，1936]提出，亦称"Fisher判别分析"。（严格说来LDA与Fisher判别分析稍有不同，LDA假设了各类样本的协方差矩阵相同且满秩。）1. LDA的基本思想 ...
（《机器学习》完整版系列）第3章 线性模型——3.3 线性判别分析LDA（将平面上点投影到线上）
qiy_icbc的博客
02-21 241
在属性坐标系中先找到一条过原点的线，将平面上点投影到这条线上，从而将“平面上点的分类”转化为“线上点的分类”。
机器学习 | 降维：LDA
因为健忘，所以记点有的没的〒▽〒
05-30 2513
给定带有标签的训练样本集，设法将样本投影到一条直线上，使得同类样本的投影点尽可能近，异类样本的投影点尽可能远。
分类算法----线性判别分析（LDA）原理和推导过程学习笔记
机器学习、数据挖掘
05-02 1万+
线性判别分析用到方差分析和拉个朗日的相关知识，在介绍线性判别分析之前，先介绍方差分析和拉格朗日的相关知识，然后介绍线性判别分析（LDA的推导过程）、最后利用马氏距离计算样本与两类的距离，对数据进行分类 1方差分析 2 拉个朗日法 3 线性判别分析（LDA）的推导过程 假设有两类数据红色和蓝色，我们想通过线性判别分析对这两类数据进行分类。图1可以看到没有很好的把数据分开，而图二可...
GMM 高斯混合模型 聚类 Python实现
热门推荐
csdn_inside的博客
12-26 1万+
原理也不多说了。。大致思路就是把数据建立成k个高斯分布，EM迭代N次。最后看每个点在哪个高斯分布的概率最高，就分到那个分布。 这里的computeGamma函数，用来算第i个簇的后验概率γji，用了2层循环，效率不高，本来想向量化的，搞了半天没搞出来。。干脆就先循环吧。。包括后面的fit方法也是一样。。用了很多循环。 X的shape是(n_samples,n_features) mu的sha...
线性判别分析lda score
12-04
线性判别分析（LDA）是一种用于特征提取和数据分类的机器学习算法。LDA的评分是基于数据集的线性变换，通过使得不同类别的样本在变换后尽可能地分开，同类别的样本尽可能地聚集在一起来实现的。 在LDA中，对于每个...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值