线性判别分析 Linear Discriminate Analysis, LDA

最新推荐文章于 2023-06-03 09:58:57 发布
最新推荐文章于 2023-06-03 09:58:57 发布
阅读量985 收藏 2
点赞数 1
分类专栏： 深度学习相关文献和理论
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35290785/article/details/89530715
版权
线性判别分析（LDA）是一种统计方法，旨在通过将数据投影到低维空间，使同类样本投影点接近，异类样本点远离。这种方法常用于特征抽取和数据压缩，例如在二维数据的分类问题中，LDA通过找到最优投影，使得红蓝两类样本在投影后的距离最大化。左图展示了最大化类别间距离的投影，而右图则强调了保持同类样本点相邻的投影策略。
摘要由CSDN通过智能技术生成

1.思想:给定训练集样例，设法将样例投影到一条直线上，使得同类样例的投影尽可能接近，异类样例的投影点尽可能远；在对新的样本进行分类时，将其投影到同样的这条直线上，再根据投影点的位置来确定新样本的类别。

2.特征抽取: 可以将原始数据集变换到一个维度更低的新的特征子空间，在尽可能多地保持相关信息的情况下，对数据进行压缩。

3.例子说明:假设有红、蓝两类数据，这些数据特征均为二维，如下图所示。我们的目标是将这些数据投影到一维，让每一类相近的数据的投影点尽可能接近，不同类别数据尽可能远，即图中红色和蓝色数据中心之间的距离尽可能大。

 

 

左图和右图是两种不同的投影方式。

​ 左图思路：让不同类别的平均点距离最远的投影方式。

​ 右图思路：让同类别的数据挨得最近的投影方式。

 

 

贾世林jiashilin
关注
专栏目录
订阅专栏
[机器学习] 第三章 线性模型 2.特征抽取——LDA线性判别分析（Linear Discriminate Analysis）
心宝的博客
03-16 775
参考：https://blog.csdn.net/weixin_40604987/article/details/79615968 特征抽取： 降维 到一个新的特征子空间，压缩数据并尽可能保留信息。 1. 线性判别分析 Linear Discriminate Analysis, LDA LDA 可以提高数据分析过程中的计算效率，对于不适用与正则化的模型，可以降低因维度灾难带来的过拟合。 如图所示...
线性判别分析(LDA)入门
09-26
线性判别分析(LDA)的入门资料，给出了详细的推导过程。
线性判别分析（Linear Discriminant Analysis）
ffeng271的专栏
03-14 3万+
线性判别分析（Linear Discriminant Analysis） 1. 问题      之前我们讨论的PCA、ICA也好，对样本数据来言，可以是没有类别标签y的。回想我们做回归时，如果特征太多，那么会产生不相关特征引入、过度拟合等问题。我们可以使用PCA来降维，但PCA没有将类别标签考虑进去，属于无监督的。      比如回到上次提出的文档中含有“learn”和“st
LDA(Linear discriminate analysis)线性判别分析
12-18 160
LDA 线性判别分析与Fisher算法完全不同 LDA是基于最小错误贝叶斯决策规则的。 在EMG肌电信号分析中，。。。 未完待续：。。。。。 转载于:https://www.cnblogs.com/yaochc/p/3480985.html...
线性判别分析 Linear Discriminant Analysis | LDA
JasonH2021的博客
06-03 7570
本文主要简单介绍了线性判别分析的基本概念，优缺点，应用场景，建模时的注意事项，评价指标，实现方法，python示例和模型参数等。
机器学习笔记 线性判别分析（LDA）（Linear Discriminate Analysis）
hustjlshi
01-27 2629
上篇博客分析了PCA（https://blog.csdn.net/qq_38366615/article/details/86663634），这次对LDA做一下分析。 与LDA与PCA一样，都是对数据进行绛维，但是，考虑的方向不一样，PCA主要是寻找数据的主要特征，然后将数据转换到这些特征上，而LDA则将数据的标签类型考虑进来，要求数据绛维后仍然可分。从这个层面上来说，PCA是一种无监督学习而L...
数据降维之线性判别分析（LDA）——基本原理与基于python sklearn库的LDA实现
ZhangYuq16的博客
07-20 4060
目录简介算法流程基于python sklearn库的LDA例程 简介 线性判别分析（Linear Discriminate Analysis, LDA）通过正交变换将一组可能存在相关性的变量降维变量，目标是将高维数据投影至低维后，同类的数据之间距离尽可能近、不同类数据之间距离尽可能远。 应用场景： 对于拟合、分类算法，可以利用主成分分析对输入数据实现降维，去除冗余数据可以提高计算效率并提高计算精度...
线性判别分析(Linear Discriminant Analysis, LDA）算法分析
热门推荐
warmyellow的专栏
04-06 14万+
LDA算法入门 一． LDA算法概述：线性判别式分析(Linear Discriminant Analysis, LDA)，也叫做Fisher线性判别(Fisher Linear Discriminant ,FLD)，是模式识别的经典算法，它是在1996年由Belhumeur引入模式识别和人工智能领域的。性鉴别分析的基本思想是将高维的模式样本投影到最佳鉴别矢量空间，以达到抽取分类信息和
机器学习：线性判别分析LDA
小白兔的窝
03-19 1428
定义：线性判别式分析（Linear discriminant analysis），又称为Fisher线性判别(Fisher linear discriminant)。 原理：将带上标签的数据（点），通过投影的方法，投影到维度更低的空间中，使得投影后的点，会形成按类别区分，一簇一簇的情况，相同类别的点，将会在投影后的空间中更接近。更多见机器学习中的数学(4)-线性判别分析（LDA）, 主成分分析(
判别分析（Discriminate Analysis）
积一时之步，臻千里之遥程
05-09 8939
判别分析主要是针对有监督学习的分类问题。 这里回顾一下有监督和无监督学习 有监督学习：对具有标记的训练样本进行学习，以尽可能对训练样本集外的数据进行分类预测。（ LR,SVM,BP,RF,GBDT） 也就是说：利用一组已知类别的样本，通过训练学习，得出一个分类器（最优的模型），再用这个分类器去判断未知类别样本是属于哪一类。 有监督学习常用于回归分析（连续型）和统计分类（离散型）。最典型的算法是KN...
常见ML算法 ---- LDA线性判别分析（Linear Discriminant Analysis）
Dufert的博客
04-02 797
文章中关于定义部分的说明：为保证博客严谨性，概念来自于书本（已经多次提炼使其通俗易懂） LDA意义解析： LDA（Linear Discriminant Analysis线性判别分析也称为是Fisher’s Linear Discriminant）：其属于监督降维的方法，对于二分类的LDA思想在于，构建一个映射矩阵，使得两个类在经过投影映射后，尽量分得更开。其主要是构建类间矩阵和类内矩阵，使得...
matlab费希尔判别,Fisher线性判别与感知器算法Matlab实现
weixin_29346059的博客
03-16 424
参考用书： 本文是在学习此书Chapter4时，跑的实验。4.1.4 Fisher‘s Linear Discriminatefunction [w y1 y2 Jw] = FisherLinearDiscriminat(data, label)% FLD Fisher Linear Discriminant.% data : D*N data% label : {+1,-1}% Referenc...
LDA（线性判别分析）算法
HelloWorld
10-09 766
线性判别分析（Linear Discrimination Analysis，LDA）是一种非常经典的线性学习方法，可以用于在二分类问题上。 我们知道，在二分类问题上，我们想要的理想结果是 同一类的尽量聚集在一起，不同类的尽量分开。 因此，LDA实际上是一个非常简单的（所以经典）方法，它的思想也是极其朴素： 给定训练集，设法将样例投影到一条直线上，使得同类样例的投影点尽可能接近，异类样例的投影
线性判别分析Linear Discriminant Analysis学习心得
GcooQ的专栏
07-11 1344
判别分析(Discriminant Analysis)根据研究对象的各种特征值判别其类型归属问题的一种多变量统计分析方法。 根据判别标准不同可以分为距离判别、Fisher判别、Bayes判别法 LDA和PCA区别： PCA(Principal Component Analysis)是无监督的方式，它没有分类标签，降维之后需要采用K-Means或自组织映射网络等无监督的算法进行
用Simulink仿真电路并得到其传递函数方法
weixin_42665184的博客
07-28 2万+
通过这种方法可以辅助硬件的设计，硬件参数的验证等，在控制上也可以模拟负载等特性得到传递函数，再通过Simulink设计补偿器完成系统的环路设计等任务。是一个工程开发中比较方便的功能httpshttpshttpshttpshttpshttpshttpshttpshttpshttpshttpshttpshttpshttps。......
sklearn浅析（五）——Discriminant Analysis
起风之后，只剩沙丘
07-24 1万+
sklearn中的判别分析主要包括两类，LinearDiscriminantAnalysis和QuadraticDiscriminantAnalysisLinearDiscriminantAnalysis  线性判别分析是一种分类模型，它通过在k维空间选择一个投影超平面，使得不同类别在该超平面上的投影之间的距离尽可能近，同时不同类别的投影之间的距离尽可能远，在LDA中，我们假设每一个类别的数据服从高
线性判别分析（Linear Discriminant Analysis，LDA）
SongGu1996的博客
07-23 1万+
基础不牢，地动山摇。 线性判别分析（Linear Discriminant Analysis，LDA）是一种经典的线性学习方法，它既可以用于分类问题，也可以用于有监督的特征降维。它的思想非常朴素：给定训练样本，设法将样本特征投影到一个向量上，并且希望同类样本的投影点越近越好，异类样本的投影点越远越好。在对新样本进行分类时，照样将新样本的特征投影到这个向量上，再根据投影点的位置来确定新样本的类别。...
matlab分类工具箱做linear discriminate分析
最新发布
08-01
MATLAB的分类工具箱（Classification Toolbox）提供了丰富的函数和工具，可用于进行线性判别分析（Linear Discriminant Analysis）。线性判别分析是一种常用的模式识别和分类方法，旨在在给定一组输入数据的情况下将其划分为预定义的类别。 在MATLAB中，有多种函数可以用于执行线性判别分析。这些函数包括`fitcdiscr`和`classify`等。`fitcdiscr`函数用于拟合线性判别模型，而`classify`函数用于对新样本进行分类。 线性判别分析的基本思想是将数据投影到低维空间中，并选择使不同类别样本之间差异最大化的投影方向。在MATLAB中，可以使用`fitcdiscr`函数来训练线性判别模型。该函数需要输入训练数据的特征矩阵和类标签向量。例如，假设有一个包含100个样本的训练数据集，每个样本有10个特征，可以使用以下代码来训练线性判别模型： ```matlab X = rand(100, 10); % 特征矩阵 Y = [ones(50, 1); 2*ones(50, 1)]; % 类标签向量（1和2） model = fitcdiscr(X, Y); ``` 训练完成后，可以使用`classify`函数来对新样本进行分类。该函数需要输入训练好的线性判别模型和新样本的特征矩阵。例如，假设有一个包含10个新样本的测试数据集，可以使用以下代码来进行分类： ```matlab Xtest = rand(10, 10); % 测试数据的特征矩阵 predictedLabels = classify(Xtest, model); ``` `predictedLabels`是一个包含预测类别标签的向量。 除了以上基本操作，MATLAB的分类工具箱还提供了其他功能，如交叉验证、特征选择和性能评估。这些功能可以帮助用户更全面和准确地分析数据和评估模型的性能。 综上所述，MATLAB的分类工具箱可以很方便地进行线性判别分析，并提供了丰富的功能和函数来支持模型的训练、分类和评估。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

贾世林jiashilin

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值