线性判别分析（Linear Discriminant Analysis, LDA） 算法分析与代码

最新推荐文章于 2023-08-26 12:11:53 发布
最新推荐文章于 2023-08-26 12:11:53 发布
阅读量1.9k 收藏 5
点赞数
分类专栏： 图像处理 文章标签： LDA
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012316600/article/details/53022307
版权
线性判别分析（LDA）用于特征降维，旨在最大化类间距离和最小化类内距离，以解决高维特征导致的过拟合问题。通过计算类内和类间样本均值，构建类间离散度矩阵和类内离散度矩阵，并应用Fisher线性鉴别器选择投影矩阵，选择最大特征值对应的特征向量作为降维方向。
摘要由CSDN通过智能技术生成

1． 算法描述
LDA是一种特征降维算法，目前的工作在使用SVM分类的时候，遇到特征维数过大而导致过拟合的问题，所以希望通过LDA算法降低特征维度，解决过拟合的问题。LDA算法的目的是使得样本在投影后的子空间中保持最大的类间距离和最小的类内距离。

2． 公式推导
首先计算类内样本均值和类间样本均值：
这里写图片描述
这里写图片描述
然后得到类间离散度矩阵和类内离散度矩阵：
这里写图片描述
这里写图片描述
通过fisher线性鉴别器分析，选取的投影矩阵为：
这里写图片描述
即：
这里写图片描述
投影矩阵即取列向量为d个最大特征值对应的特征向量的组合。

3． 代码解释

functi
最低0.47元/天 解锁文章
suytingwan
关注
专栏目录
线性判别分析LDA算法代码
03-17
经典监督式学习降维方法线性判别分析LDA算法的MATLAB代码，具有降维性能好的特点，同时可以用于分类，是一种具有代表性的降维算法
线性判别分析matlab代码实现
08-09
使用matlab实现的线性判别分析代码，输入、输出、关键代码注释以及示例都有详细的说明。代码正确性已经得到验证！
「Python」机器学习之线性判别分析（代码，不调包）
最新发布
cumtLeibnizDavid的博客
08-26 869
线性判别分析(LDA)算法实现，非sklearn
机器学习：线性判别分析（LDA）代码实现
weixin_43846172的博客
10-04 1408
机器学习：线性判别分析（LDA）代码实现 相关知识 代码实现 使用的数据集 周志华老师<机器学习>书上数据集3a（第一列序号，第二列密度，第三列含糖量，第四列是否为好瓜） 通过三种方法：第一种方法调库，二三种手写 #!/usr/bin/env python # coding: utf-8 # In[8]: import numpy as np ''' get t...
线性判别分析matlab代码及pdf 讲解
03-10
这是线性判别分析的一个matlab code,有具体实例的运行结果，还有关于LDA 算法的详细讲解，通俗易懂，希望对大家有用.
LDA线性判别分析Python程序
水滴石穿
08-04 8047
理论讲解需要导入的包# -*- coding: utf-8 -*- import numpy as np import csv from matplotlib import pyplot as plt import math导入数据集def read_iris(): from sklearn.datasets import load_iris from sklearn import
线性判别式分析(Linear Discriminant Analysis, LDA)MATLAB实现
11-05
线性判别式分析（Linear Discriminant Analysis, LDA）是一种经典的统计方法，常用于特征降维和分类问题。在机器学习领域，LDA通过最大化类间距离与类内距离的比值，来寻找能够最好区分不同类别的新特征空间。MATLAB...
线性判别分析（Linear Discriminant Analysis， LDA）1
08-03
线性判别分析（LDA）是一种监督学习的降维技术，主要应用于分类问题，尤其在高维数据处理中起到关键作用。与无监督的主成分分析（PCA）不同，LDA利用样本的类别信息来指导降维过程，旨在最大化类别间的方差，同时...
线性判别分析（Linear Discriminant Analysis，LDA) 简单分析
sinat_22510827的博客
10-07 2647
LDA全称Linear Discriminant Analysis，类似PCA，是一种降维方法，但是其目标不同于PCA保留最多的数据点信息，而是尽可能使得不同类别样本间的距离大，同类别的样本间距离小。 首先介绍一下LDA到底是什么？LDA是一种降维的方法，一提到降维，大家应该很熟悉PCA。那么PCA和LDA的区别是什么呢？我们简单的理解可以理解为PCA是获取那些数据能量集中的子空间，用《模式分类》中的例子：手写字母识别中，Q和O利用PCA能够发现两个字母的相似之处，却很可能把区分字母Q和O的那撇特征去掉。
LDA-线性判别分析
12-06
将高维的模式样本投影到最佳鉴别矢量空间，以达到抽取分类信息和压缩特征空间维数的效果，投影后保证模式样本在新的子空间有最大的类间距离和最小的类内距离，即模式在该空间中有最佳的可分离性，与PCA区别：LDA考虑分类标签，属于有监督分类。 (Linear discriminant analysis (LDA) is a generalization of Fisher s linear discriminant, a method used in statistics, pattern recognition and machine learning to find a linear combination of features that characterizes or separates two or more classes of objects or events. The resulting combination may be used as a linear classifier, or, more commonly, for dimensionality reduction before later classification.)
判别分析代码
05-09
判别分析 可以看一下
可实现的LDA算法代码
11-14
matlab代码，LDA算法，自己写的，有数据mat，可以实现
LDA算法实现
03-21
一些关于LDA算法实现的例子，还有MATLAB的代码实现
LDA算法实例源代码
09-16
非常不错的LDA算法实例源代码，亲测可用。是一个实例的代码，给需要用LDA算法的人一个参考。希望对大家有用。
【人工智能】机器学习：线性判别分析(Linear Discriminant Analysis, LDA)
程序员光剑
05-05 8809
又称判别分析，是一种线性分类方法。的思想是，给定训练样本集，将所有样本投影到空间中的一个超平面上，使得相同类别的样本的投影点尽可能接近，不同类别的样本的投影点尽可能远离。在对一个新的样本进行分类时，先将其投影到该超平面上，再根据投影点的位置(以及预先设置的阈值)确定该样本的类别。也可以看作是一种监督的线性降维方法。
Fisher线性判别分析以及代码实现
m0_51669674的博客
09-02 2500
降维作为一种减少特征冗余的方法，也可以应用在线性分类当中。在K分类问题中，Fisher线性判别分析通过最大化类间方差和最小化类内方差，将数据映射到K-1维空间进行分类。本文将着重讨论推导多分类的情况。
线性判别分析(Linear Discriminant Analysis, LDA)
wydbyxr的博客
10-22 452
线性判别分析(Linear Discriminant Analysis, LDA)   是一种有监督的降维方法。与PCA齐名。 公式   直观理解：将两类样本投影到一条直线上，使得投影后的类间散布矩阵与类内散布矩阵的比值最大。 ...
python3 Fisher线性判别分析(LDA)(含详细推导和代码）
热门推荐
我不爱机器学习的博客
12-03 1万+
1、线性判别原理 线性判别分析是常用的降维技术,在模式分类和机器学习的预处理步骤中。其目标是将数据集投影到具有良好的类可分性的低维空间中，以避免过度拟合（维数过多）并降低计算成本，如将一个特征空间(一个数据集n维样本)投射到一个更小的子空间k(其中k ≤n-1)上，同时维护类区分信息。 判别式是一个函数，它接受一个输入向量x，并把它赋值给K个类中的一个，记作。在这一章中，我们将把注意力限制在线...
Linear Discriminant Analysis代码
05-23
Linear Discriminant Analysis (LDA)是一种监督学习的分类算法，它可以用于降维和特征提取，具体实现的代码可以参考下面： ```python import numpy as np class LDA(): def __init__(self,n_components): self.n...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值