Fisher's linear discriminant(Linear Discriminant Analysis)

最新推荐文章于 2024-09-26 08:51:10 发布
最新推荐文章于 2024-09-26 08:51:10 发布
阅读量7.4k 收藏 3
点赞数 2
分类专栏： 贝叶斯 回归 分类 机器学习与数据挖掘 文章标签： 线性判别分析 分类 投影 pca 特征向量
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012303532/article/details/42973897
版权
Fisher's Linear Discriminant (LDA)是一种用于分类的方法，它通过将高维数据投影到一维来最大化类间方差和最小化类内方差，从而提高分类效果。与PCA不同，LDA关注的是区分类别，而非单纯寻找最大方差。LDA的目标是找到最佳投影方向，使得类别能够最大程度地分离。在两类问题中，LDA通过计算类间和类内方差来确定投影向量，并且可以扩展到多类情况。
摘要由CSDN通过智能技术生成


Fisher's linear discriminant的主要思想是(简单起见这里先讨论分成2类的情况)将高维的数据投影到一维，在这一维上，我们就能轻易得到分类。

以下两幅图分别来自prml 和the elements，我觉得非常好的说明了在分成两类的情况下Fisher's linear discriminant的思想(左图的投影没有右图的好):




Fisher's linear discriminant之所以类内方差和类间方差的要求，是因为，单单要求方差大，并不是一个很好的目标，例如会有如下的样本：

最低0.47元/天 解锁文章
记忆星空
关注
专栏目录
classification algorithm: Fisher's linear discriminant
12-05
Fisher's linear discriminant
线性判别分析(Linear Discriminant Analysis, LDA）算法分析
脚踏实地
06-13 1830
LDA算法入门 一． LDA算法概述： 线性判别式分析(Linear Discriminant Analysis, LDA)，也叫做Fisher线性判别(Fisher Linear Discriminant ,FLD)，是模式识别的经典算法，它是在1996年由Belhumeur引入模式识别和人工智能领域的。性鉴别分析的基本思想是将高维的模式样本投影到最佳鉴别矢量空间，以达到抽取分类信息和压缩特
python 实现linear discriminant analysis线性判别分析算法
最新发布
luthane的博客
09-26 645
线性判别分析（Linear Discriminant Analysis，简称LDA）是一种用于降维和分类的监督学习算法。它通过最大化类间散度和最小化类内散度来找到最佳投影方向，使得不同类别的数据在新的空间中尽可能分开，同一类别的数据尽可能靠近。LDA的基本思想LDA的基本思想是将多维数据映射到低维空间，同时保留数据之间的类别差异。具体来说，LDA通过计算类内散度矩阵（描述同一类别内部数据的分布情况）和类间散度矩阵（描述不同类别之间的差异），然后求解这两个矩阵的广义特征值问题，找到最佳的投影方向。
多元统计分析——数据降维——Fisher线性判别分析（LDA）
huangguohui_123的博客
05-20 1万+
一、LDA的思想 LDA是一种监督学习的降维技术，也就是说它的数据集的每个样本是有类别输出的。这点和PCA不同。PCA是不考虑样本类别输出的无监督降维技术。LDA的思想可以用一句话概括，就是“投影后类内方差最小，类间方差最大”。什么意思呢？ 我们要将数据在低维度上进行投影，投影后希望每一种类别数据的投影点尽可能的接近，而不同类别的数据的类别中心之间的距离尽可能的大。 二、LDA vs PCA LDA用于降维，和PCA有很多相同，也有很多不同的地方，因此值得好好的比较一下两者的降维异同点。 　　　..
费舍尔线性分辩分析(Fisher‘s Linear Discriminant Analysis, FLDA)
Ace2NoU的博客
07-31 924
Fisher线性分辩分析原理和代码实现（Python）
Fisher 线性判别分析及代码实现
weixin_45828825的博客
10-08 3202
利用Fisher LDA求解线性分类器的参数
Fisher's Linear Discriminant（LDA) 线性判别模型（2类）
xyxc202的博客
03-22 2543
Fisher’s Linear Discriminant（LDA) 线性判别模型 ​ LDA（Linear Discriminant Analysis线，性判别分析），是一种supervised learning，是由Fisher在1936年提出的。 LDA通常作为数据预处理阶段的降维技术，其目标是将数据投影到低维空间来避免维度灾难（curse of dimensionality）引起的过拟合，同...
Fisher线性判别分析（Linear Discriminant Analysis，LDA）
code_caq的博客
04-16 9507
LDA基本思想： 将高维的样本投影到最佳鉴别矢量空间，以达到抽取分类信息和压缩特征空间维数的效果。对于两类问题，可以看做把样本都投影到一个方向上，然后在这个一维空间确定一个分类的阈值。过这个阈值点且与投影方向垂直的超平面就是两类的分类面。投影方向的确定：投影后保证模式样本在新的子空间有最大的类间距离和最小的类内距离，即模式在该空间中有最佳的可分离性。比如如下右图就是更好的投影方向~ LDA基本步
linear-discriminant-analysis-python:在python中进行线性判别分析
05-02
在Python中，`scikit-learn`提供了`LinearDiscriminantAnalysis`类，用于执行LDA操作。首先，我们需要导入必要的库： ```python from sklearn.discriminant_analysis import LinearDiscriminantAnalysis from ...
Linear_Discriminant_Analysis.pdf
06-29
线性判别分析（Linear Discriminant Analysis，简称LDA）是一种常用于统计模式识别和机器学习领域的经典分类技术。在分析数据以进行分类时，LDA试图找到一个投影方向，使得在这个方向上的投影能够最大化各类别数据的...
Face recognition by sparse discriminant analysis via joint L2,1 norm minimization
02-10
In the literature, a framework of utilizing L-2,L-1-norm penalty term has also been presented, but some important algorithms cannot be covered, such as Fisher Linear Discriminant Analysis and Sparse ...
机器学习（三十一）——Linear Discriminant Analysis
antkillerfarm的专栏
07-02 1万+
Linear Discriminant Analysis 在《机器学习（十六）》中，我们已经讨论了一个LDA，这里我们来看看另一个LDA。 Linear Discriminant Analysis是Ronald Fisher于1936年提出的方法，因此又叫做Fisher’s linear discriminant。正如之前在《知名数据集》中提到的，Iris flower Data Set也是出...
线性判别分析（Linear Discriminant Analysis）
热门推荐
Daunxx的专栏
07-11 7万+
从贝叶斯公式出发，得到了线性判别分析的公式，这里从另外一个角度来看线性判别分析，也就是常说的Fisher判别式。其实Fisher判别式就是线性判别分析（LDA），只是在讨论Fisher判别式的时候，更侧重于LDA的数据降维的能力。
图像处理算法3——Fisher's linear discriminant
夏天的风
12-11 3138
在一篇论文里看到这个方法，论文中说 Fisher's linear discriminate is used to enhance the contrast between the objects and the backgroud ，很少听到说（学渣都是这样）这种方法来增强图像的，在CSDN上搜，甚少，于是查了点关于这方面的资料。这种方法是模式识别中的一种方法，在实际应用中比较的多，我就看了一下
小议费雪线性判别（Fisher Linear Discriminant Analysis）
大脸猫的博客
11-19 1128
fisher 判决方式是监督学习，在新样本加入之前，已经有了原样本。 原样本是训练集，训练的目的是要分类，也就是要找到分类线。一刀砍成两半！ 当样本集确定的时候，分类的关键就在于如何砍下这一刀！ 若以黑色的来划分，很明显不合理，以灰色的来划分，才是看上去合理的 1.先确定砍的方向 关键在于如何找到投影的向量u，与u的长度无关。只看方向 找到样本点的中心均值m1，m2，以及在向量u上的投影的m1~，m2~。 因为u的方向与样本点都有关，所以需要考虑一个含有所有样...
Fisher linear discriminant analysis总结
weixin_30892889的博客
04-28 296
　　一年前就研究过Fisher线性判别分析，到现在又忘得差不多了，在此特总结一下： 1、线性判别分析是统计学上的一种分析方法，用于在已知的分类之下遇到有新的样本时，选定一个判别标准，以判定如何将新样本放置于哪一个类别之中。主要用于二分类问题，对于多类问题则可以多次运用该方法就可以了； 2、Fisher线性判别分析的主要原理是将带有类别标签的高维样本投影到一个向量w（一维空间）上，使得在该向量上...
人脸识别经典算法实现（二）——Fisher线性判别分析
恒河沙无数
08-01 9248
第二种人脸识别的经典算法是Fsiher算法，也称之为线性判别分析，我最先看到这个算法是在周志华老师的《机器学习》中，没想到在人脸识别上也有应用。 这个算法的思路和PCA差不太多，都是着眼于图像全局考虑，PCA考虑的是如何确定一组正交基可以使数据降维，线性判别分析则是考虑如何确定一组投影向量可以让数据集在投影钟尽可能大的相互区分。直观上看，区分为非就是类与类之间的差别应该更大，而类内的数据应该更加
Fisher线性判别（*）
sdujava2011
11-03 1568
本文转自http://blog.csdn.net/carson2005/article/details/6699939，仅供学习之用，另外
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值