Fisher's linear discriminant(Linear Discriminant Analysis)

最新推荐文章于 2023-10-08 18:50:12 发布
VIP文章 最新推荐文章于 2023-10-08 18:50:12 发布
阅读量7.3k 收藏 3
点赞数 2
分类专栏： 贝叶斯 回归 分类 机器学习与数据挖掘 文章标签： 线性判别分析 分类 投影 pca 特征向量
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012303532/article/details/42973897
版权


Fisher's linear discriminant的主要思想是(简单起见这里先讨论分成2类的情况)将高维的数据投影到一维，在这一维上，我们就能轻易得到分类。

以下两幅图分别来自prml 和the elements，我觉得非常好的说明了在分成两类的情况下Fisher's linear discriminant的思想(左图的投影没有右图的好):




Fisher's linear discriminant之所以类内方差和类间方差的要求，是因为，单单要求方差大，并不是一个很好的目标，例如会有如下的样本：

最低0.47元/天 解锁文章
记忆星空
关注
  • 2
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
专栏目录
classification algorithm: Fisher's linear discriminant
12-05
Fisher's linear discriminant
线性判别法则（LDA)
Tatiana's SA
09-05 1106
线性判别法则（Linear Discriminant Analysis) LDA是一种监督学习。也称为Fisher's linear discriminant。 LDA的原理是，将带上标签的数据（点），通过投影的方法，投影到维度更低的空间中，使得投影后的点，会形成按类别区分，一簇一簇的情况，相同类别的点，将会在投影后的空间中更接近。要说明白LDA，首先得弄明白线性分类器(Linear Cl...
费舍尔线性分辩分析(Fisher‘s Linear Discriminant Analysis, FLDA)
Ace2NoU的博客
07-31 539
Fisher线性分辩分析原理和代码实现（Python）
线性判别分析（LDA）
weixin_43694742的博客
12-21 847
1、简介 线性判别式分析(Linear Discriminant Analysis, LDA)，也叫做Fisher线性判别(Fisher Linear Discriminant ,FLD)，是模式识别的经典算法，它是在1996年由Belhumeur引入模式识别和人工智能领域的。性鉴别分析的基本思想是将高维的模式样本投影到最佳鉴别矢量空间，以达到抽取分类信息和压缩特征空间维数的效果，投影后保证模式样本在新的子空间有最大的类间距离和最小的类内距离，即模式在该空间中有最佳的可分离性。因此，它是一种有效的特征抽取方
Fisher线性判别分析（Linear Discriminant Analysis，LDA）
code_caq的博客
04-16 9412
LDA基本思想： 将高维的样本投影到最佳鉴别矢量空间，以达到抽取分类信息和压缩特征空间维数的效果。对于两类问题，可以看做把样本都投影到一个方向上，然后在这个一维空间确定一个分类的阈值。过这个阈值点且与投影方向垂直的超平面就是两类的分类面。投影方向的确定：投影后保证模式样本在新的子空间有最大的类间距离和最小的类内距离，即模式在该空间中有最佳的可分离性。比如如下右图就是更好的投影方向~ LDA基本步
多元统计分析——数据降维——Fisher线性判别分析（LDA）
huangguohui_123的博客
05-20 1万+
一、LDA的思想 LDA是一种监督学习的降维技术，也就是说它的数据集的每个样本是有类别输出的。这点和PCA不同。PCA是不考虑样本类别输出的无监督降维技术。LDA的思想可以用一句话概括，就是“投影后类内方差最小，类间方差最大”。什么意思呢？ 我们要将数据在低维度上进行投影，投影后希望每一种类别数据的投影点尽可能的接近，而不同类别的数据的类别中心之间的距离尽可能的大。 二、LDA vs PCA LDA用于降维，和PCA有很多相同，也有很多不同的地方，因此值得好好的比较一下两者的降维异同点。 　　　..
Fisher 线性判别分析及代码实现
最新发布
weixin_45828825的博客
10-08 1469
利用Fisher LDA求解线性分类器的参数
Fisher's Linear Discriminant（LDA) 线性判别模型（2类）
xyxc202的博客
03-22 2339
Fisher’s Linear Discriminant（LDA) 线性判别模型 ​ LDA（Linear Discriminant Analysis线，性判别分析），是一种supervised learning，是由Fisher在1936年提出的。 LDA通常作为数据预处理阶段的降维技术，其目标是将数据投影到低维空间来避免维度灾难（curse of dimensionality）引起的过拟合，同...
线性判别分析（Linear Discriminant Analysis）
热门推荐
Daunxx的专栏
07-11 7万+
从贝叶斯公式出发，得到了线性判别分析的公式，这里从另外一个角度来看线性判别分析，也就是常说的Fisher判别式。其实Fisher判别式就是线性判别分析（LDA），只是在讨论Fisher判别式的时候，更侧重于LDA的数据降维的能力。
线性判别分析(Linear Discriminant Analysis, LDA）算法分析
脚踏实地
06-13 1738
LDA算法入门 一． LDA算法概述： 线性判别式分析(Linear Discriminant Analysis, LDA)，也叫做Fisher线性判别(Fisher Linear Discriminant ,FLD)，是模式识别的经典算法，它是在1996年由Belhumeur引入模式识别和人工智能领域的。性鉴别分析的基本思想是将高维的模式样本投影到最佳鉴别矢量空间，以达到抽取分类信息和压缩特
Face recognition by sparse discriminant analysis via joint L2,1 norm minimization
02-10
In the literature, a framework of utilizing L-2,L-1-norm penalty term has also been presented, but some important algorithms cannot be covered, such as Fisher Linear Discriminant Analysis and Sparse ...
Matlab代码verilog-Linear-Discriminant-Analysis-using-FPGA:该项目将使用Matlab计算线
05-27
线性判别分析（LDA），正态判别分析（NDA）或判别函数分析是Fisher线性判别的泛化，这是一种用于统计，模式识别和机器学习的方法，用于查找表征或分离两个特征的线性组合或更多类别的对象或事件。 所得的组合可用作...
Fisher判别matlab实现
12-08
Fisher线性判别（Fisher Linear Discrimination，FLD），也称线性判别式分析(Linear Discriminant Analysis, LDA)。FLD是基于样本类别进行整体特征提取的有效方法。它在使用PCA方法进行降维的基础上考虑到训练样本的...
Relational Fisher Analysis
04-24
methods, such as linear discriminant analysis (LDA) and marginal Fisher analysis (MFA), RFA seamlessly integrates relational information among data into the representation learning framework, which in...
subset selection
斑驳记忆的专栏
01-09 5268
这几天看the elements of statistical learning,觉得非常吃力，可能自己水平还不够，觉得这书不适合初学者看，就从Subset Selection 这一章节来说，本文说了主要说了三个点，best-subset selection,stepwise selection and stagewise selection,但是后面两个并没有特别详细的做法步骤，看的似懂非懂，后
Apriori算法及python代码实现
斑驳记忆的专栏
02-28 4261
Apriori算法作用就是在一个数据集合中，找到满足出现次数大于等于一个阀值的子集及出现个数，这句话可能不是很好理解。举一个例子，比如说你是一家超市的店主，每天你的超市有大量的商品卖出，你想知道哪几样的商品，他们被一起买的次数很多，那么你可以改变超市商品摆放布局，让被一起买的商品放的位置近一些，这样可能能提高超市的销售额。那么假如现在有很多张顾客购买的清单，他们总共购买了n种商品，你想找出这n种商
PageRank及其MapReduce实现
斑驳记忆的专栏
08-08 4041
Pagerank是一个衡量网页重要性的算法，这个算法把互联网上的网页集合看成一个有向图，每个网页是一个节点，如果网页A有指向网页B的链接，则这两个点存在一条有向边A->B，那么如果A这个网页上有k个网页的链接，那么他会以1/k的概率从A这个网页跳到他所指的网页，所以可以用一个转移矩阵来表示一对网页集合的转移关系。 这幅图相应的转移矩阵为： 相信这个转移矩阵应该很好理解，另外就是一个
MapReduce初步理解及一些简单计算应用
斑驳记忆的专栏
08-06 2189
MapReduce 只要靠2个函数来进行计算，map函数和reduce函数，分开来说的话，它主要计算过程如下： 1 map函数的作用将多个输入转化成很多个键值对，具体如何转换，需要看具体问题编写具体的map函数。   2 对于产生的所有的键值对，会按照键的值进行分组，同一个键值的会分到同一组，每一组又可以归到一个reduce任务。 3 对于相同键产生序列对，reduce任务会将它们按照某种方
python判别分析费希尔
10-07
费希尔判别分析（Fisher's discriminant analysis）是一种经典的线性判别方法，用于解决分类问题。它通过寻找一个投影方向，将数据映射到一条直线或超平面上，使得同类样本的投影点尽可能接近，不同类别样本的投影点尽可能远离。这个投影方向可以最大程度地保留原始数据的类别信息。 在Python中，可以使用scikit-learn库来实现费希尔判别分析。具体步骤如下： 1. 导入必要的库和模块： ```python from sklearn.discriminant_analysis import LinearDiscriminantAnalysis ``` 2. 准备数据集，包括特征矩阵X和目标变量y。 3. 创建一个LinearDiscriminantAnalysis对象并拟合数据： ```python lda = LinearDiscriminantAnalysis() lda.fit(X, y) ``` 4. 使用训练好的模型进行预测： ```python y_pred = lda.predict(X_test) ``` 以上就是在Python中使用费希尔判别分析的基本步骤。你可以根据自己的数据集和需求进行相应的调整和优化。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值