Fisher's linear discriminant(Linear Discriminant Analysis)

最新推荐文章于 2024-07-06 16:11:59 发布
最新推荐文章于 2024-07-06 16:11:59 发布
阅读量7.3k 收藏 3
点赞数 2
分类专栏： 贝叶斯 回归 分类 机器学习与数据挖掘 文章标签： 线性判别分析 分类 投影 pca 特征向量
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012303532/article/details/42973897
版权
Fisher's Linear Discriminant (LDA)是一种用于分类的方法，它通过将高维数据投影到一维来最大化类间方差和最小化类内方差，从而提高分类效果。与PCA不同，LDA关注的是区分类别，而非单纯寻找最大方差。LDA的目标是找到最佳投影方向，使得类别能够最大程度地分离。在两类问题中，LDA通过计算类间和类内方差来确定投影向量，并且可以扩展到多类情况。
摘要由CSDN通过智能技术生成


Fisher's linear discriminant的主要思想是(简单起见这里先讨论分成2类的情况)将高维的数据投影到一维，在这一维上，我们就能轻易得到分类。

以下两幅图分别来自prml 和the elements，我觉得非常好的说明了在分成两类的情况下Fisher's linear discriminant的思想(左图的投影没有右图的好):




Fisher's linear discriminant之所以类内方差和类间方差的要求，是因为，单单要求方差大，并不是一个很好的目标，例如会有如下的样本：

最低0.47元/天 解锁文章
记忆星空
关注
专栏目录
机器学习 - 研究生课程 - Python代码实现与笔记——Linear Discriminant Analysis（LDA）
AlexinCSDN的博客
04-27 1618
参考的同学的博客： https://blog.csdn.net/Willen_/article/details/89288218 心得感悟： 同学实现的时候画出来的图有些不对劲，即样本点在LDA线上的垂点位置不对，其实他应该买个正方形的显示器
线性判别分析（Linear Discriminant Analysis，LDA) 简单分析
sinat_22510827的博客
10-07 2647
LDA全称Linear Discriminant Analysis，类似PCA，是一种降维方法，但是其目标不同于PCA保留最多的数据点信息，而是尽可能使得不同类别样本间的距离大，同类别的样本间距离小。 首先介绍一下LDA到底是什么？LDA是一种降维的方法，一提到降维，大家应该很熟悉PCA。那么PCA和LDA的区别是什么呢？我们简单的理解可以理解为PCA是获取那些数据能量集中的子空间，用《模式分类》中的例子：手写字母识别中，Q和O利用PCA能够发现两个字母的相似之处，却很可能把区分字母Q和O的那撇特征去掉。
classification algorithm: Fisher's linear discriminant
12-05
Fisher's linear discriminant
线性判别分析(Linear Discriminant Analysis, LDA）算法分析
脚踏实地
06-13 1777
LDA算法入门 一． LDA算法概述： 线性判别式分析(Linear Discriminant Analysis, LDA)，也叫做Fisher线性判别(Fisher Linear Discriminant ,FLD)，是模式识别的经典算法，它是在1996年由Belhumeur引入模式识别和人工智能领域的。性鉴别分析的基本思想是将高维的模式样本投影到最佳鉴别矢量空间，以达到抽取分类信息和压缩特
经典子空间学习——线性判别分析(Linear Discriminant Analysis,LDA)
最新发布
...
07-06 917
线性判别分析（Linear Discriminant Analysis, LDA）是一种统计模式识别方法，用于寻找数据集中的线性组合，以。LDA通常用于监督学习场景，例如分类任务，其中已知数据点属于不同的预定义类别，并且目标是找到能够最好地区分这些类别的低维表示。
图像处理算法3——Fisher's linear discriminant
夏天的风
12-11 3110
在一篇论文里看到这个方法，论文中说 Fisher's linear discriminate is used to enhance the contrast between the objects and the backgroud ，很少听到说（学渣都是这样）这种方法来增强图像的，在CSDN上搜，甚少，于是查了点关于这方面的资料。这种方法是模式识别中的一种方法，在实际应用中比较的多，我就看了一下
Fisher linear discriminant analysis总结
weixin_30892889的博客
04-28 287
　　一年前就研究过Fisher线性判别分析，到现在又忘得差不多了，在此特总结一下： 1、线性判别分析是统计学上的一种分析方法，用于在已知的分类之下遇到有新的样本时，选定一个判别标准，以判定如何将新样本放置于哪一个类别之中。主要用于二分类问题，对于多类问题则可以多次运用该方法就可以了； 2、Fisher线性判别分析的主要原理是将带有类别标签的高维样本投影到一个向量w（一维空间）上，使得在该向量上...
多元统计分析——数据降维——Fisher线性判别分析（LDA）
热门推荐
huangguohui_123的博客
05-20 1万+
一、LDA的思想 LDA是一种监督学习的降维技术，也就是说它的数据集的每个样本是有类别输出的。这点和PCA不同。PCA是不考虑样本类别输出的无监督降维技术。LDA的思想可以用一句话概括，就是“投影后类内方差最小，类间方差最大”。什么意思呢？ 我们要将数据在低维度上进行投影，投影后希望每一种类别数据的投影点尽可能的接近，而不同类别的数据的类别中心之间的距离尽可能的大。 二、LDA vs PCA LDA用于降维，和PCA有很多相同，也有很多不同的地方，因此值得好好的比较一下两者的降维异同点。 　　　..
linear-discriminant-analysis-python:在python中进行线性判别分析
05-02
在Python中，`scikit-learn`提供了`LinearDiscriminantAnalysis`类，用于执行LDA操作。首先，我们需要导入必要的库： ```python from sklearn.discriminant_analysis import LinearDiscriminantAnalysis from ...
Fisher's Linear Discriminant（LDA) 线性判别模型（2类）
xyxc202的博客
03-22 2492
Fisher’s Linear Discriminant（LDA) 线性判别模型 ​ LDA（Linear Discriminant Analysis线，性判别分析），是一种supervised learning，是由Fisher在1936年提出的。 LDA通常作为数据预处理阶段的降维技术，其目标是将数据投影到低维空间来避免维度灾难（curse of dimensionality）引起的过拟合，同...
Fisher线性判别分析（Linear Discriminant Analysis，LDA）
code_caq的博客
04-16 9475
LDA基本思想： 将高维的样本投影到最佳鉴别矢量空间，以达到抽取分类信息和压缩特征空间维数的效果。对于两类问题，可以看做把样本都投影到一个方向上，然后在这个一维空间确定一个分类的阈值。过这个阈值点且与投影方向垂直的超平面就是两类的分类面。投影方向的确定：投影后保证模式样本在新的子空间有最大的类间距离和最小的类内距离，即模式在该空间中有最佳的可分离性。比如如下右图就是更好的投影方向~ LDA基本步
Fisher线性判别（*）
sdujava2011
11-03 1538
本文转自http://blog.csdn.net/carson2005/article/details/6699939，仅供学习之用，另外
Fishers线性判别分析
weixin_26641529的博客
10-10 344
It’s challenging to convert higher dimensional data to lower dimensions or visualize the data with hundreds of attributes or even more. Too many attributes lead to overfitting of data, thus results in...
模式识别算法之1----Fisher线性判别
dengju8060的博客
11-27 215
思想：多维 --> Fisher变换 --> 利于分类的一维 1.已知： 给定n维训练模式 x1,x2,...,xn,其中有N1和N2个模式分属w1和w2类（N1+N2=N)，分别记为{xj_(1)}和{xj_(2)} 2.目标： 我们希望通过Fisher变换之后，同一类的模式向量“距离”更近，而类之间的“距离”更远，这样达到更容易区分的目的。 ...
费舍尔线性分辩分析(Fisher‘s Linear Discriminant Analysis, FLDA)
Ace2NoU的博客
07-31 827
Fisher线性分辩分析原理和代码实现（Python）
机器学习-核Fisher LDA算法
weixin_30387799的博客
01-27 1220
本文在我的上一篇博文 机器学习-特征选择(降维) 线性判别式分析(LDA)的基础上进一步介绍核Fisher LDA算法。 之前我们介绍的LDA或者Fisher LDA都是线性模型，该模型简单，对噪音的鲁棒性较好，不容易过拟合，但是，简单模型的表达能力会弱一些，为了增加LDA算法的表达能力，我们可以将数据投影到非线性的方向上去。为了达到这个目的，我们可以先将数据非线性的投影到一个特征空间...
Fisher 线性判别分析及代码实现
weixin_45828825的博客
10-08 2738
利用Fisher LDA求解线性分类器的参数
联合L2,1范数最小化的稀疏判别人脸识别
作者提出了一种在Fisher线性判别分析(FLDA)基础上添加L2,1范数惩罚项的新框架，以扩展传统算法的适用范围，同时考虑了Fisher判别准则和稀疏性的优势。" 在人脸识别领域，特征选择和子空间学习是两个关键步骤。特征...
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值