吃瓜日记——LDA线性判别分析

最新推荐文章于 2024-05-30 15:37:56 发布
最新推荐文章于 2024-05-30 15:37:56 发布
阅读量613 收藏 3
点赞数 1
文章标签： LDA 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36366757/article/details/81348017
版权
本文介绍了LDA线性判别分析的基本概念和优化目标。LDA是一种用于分类的降维方法，旨在保留样本信息，寻找最佳投影方向使同类样本接近，不同类样本远离。文章详细解释了LDA的符号介绍、类内散度矩阵和类间散度矩阵，并讨论了优化目标，最终转化为特征值特征向量问题。
摘要由CSDN通过智能技术生成

今天的西瓜不太好吃，啊啊啊

今天看到LDA，但是对西瓜书上讲解的LDA不是很理解，然后就自己找了相关资料，希望能够给自己通俗的讲明白。

一、LDA简介

LDA是一个经典的线性学习方法，主要用于二分分类问题，扩展以后可以解决多分分类。

LDA和PCA都是利用降维思想，与PCA不同的C是，LDA主要是针对带有标签的数据，将带有标签的数据降维，投影到低维空间同时满足三个条件：

  • 尽可能多地保留数据样本的信息（即选择最大的特征是对应的特征向量所代表的的方向）。
  • 寻找使样本尽可能好分的最佳投影方向。
  • 投影后使得同类样本尽可能近，不同类样本尽可能远。

 

符号介绍：

  • x：表示训练样本，向量表示，即每个西瓜
  • C：表示有C类样本，C种瓜
  • u_{i}：第i类样本均值，（i=1,2,……,C）
  • \widetilde{u}_{i}：映射后第i类样本均值
  • w：样本每个特征的权重，即西瓜的颜色、根须是否卷曲对西瓜是否为好瓜的重要性
  • b：偏置量
  • Mi：表示第i类训练样本的数目，第i类西瓜的个数
  • M：训练样本的总数，全部西瓜的个数 
最低0.47元/天 解锁文章
叔于田蒸蒸
关注
专栏目录
周志华《机器学习》3.5答案-编程实现线性判别分析，并给出西瓜数据集3.0α上的结果
重邮小菜鸟的博客
04-26 1万+
#机器学习线性判别分析3.5题 import numpy as np import matplotlib.pyplot as plt data = [[0.697, 0.460, 1], [0.774, 0.376, 1], [0.634, 0.264, 1], [0.608, 0.318, 1], [0.556, 0.215, 1]...
判别系数的通俗理解
G090909的博客
12-26 1860
1.可决系数R^2的通俗理解 对于一元线性回归，R2就是简单相关系数的平方；对于多元线性回归，R2是复相关系数的平方。复相关系数实际上就是y和fitted(y)的简单相关系数。 1.read.table(“clipboard”, header = FALSE,fill = TRUE, blank.lines.skip = FALSE) 若想保留csv文件中的空白行，参数fill和bla
LDA——线性降维
最新发布
welclose的博客
05-30 408
个人对LDA的认知总结，错误之处还望指出
机器学习_第三篇 判别分析(1)_线性判别分析 LDA/FDA
Blog of Mary Sun
10-03 1971
目录1. 简单的判别分析_ 距离判别法2. Fisher判别分析/线性判别分析 1. 简单的判别分析_ 距离判别法 2. Fisher判别分析/线性判别分析
线性判别分析（LDA）与Fisher判别分析（FDA）降维原理
车手只需要车和手，压力来自轮胎
08-11 8668
在故障诊断中，我们常常会面对大量的且维数很高的数组，通过我们需要先对数据集进行划分及预处理，而预处理阶段极为重要的一步就是对数据进行降维特征提取，通过某种数学变换将原始高维空间转变成一个低维的子空间。 然鹅，我们常用到的基本就只有两个，一个是主成分分析（PCA），另一个则是今天所要介绍的Fisher判别分析（Fisher Discriminant Analysis，FDA）。 主成分分析的基本思想：设法将原来众多具有一定相关性（比如P个指标，即主成分），重新组合成一组新的互相无关的综合指标来代替原来的指标
LDA线性判别分析.ipynb
03-04
本代码提供了基于python sklearn库的LDA线性判别分析算法： 1.利用伪随机数生成测试数据，无需添加新样本 2.较详细地介绍了库函数各参数的含义
lda线性判别分析分类_lda_分类器_线性判别分析_
09-30
线性判别分析（LDA，Linear Discriminant Analysis）是一种广泛应用的数据分析方法，主要用于特征降维和分类。在机器学习领域，LDA被用作一种监督学习的分类算法，尤其适用于多分类问题。本篇文章将深入探讨LDA的...
机器学习——线性判别分析（LDA）推导
2301_82047153的博客
01-16 915
1.点到直线的投影均值与协方差：分别为第类示例的集合，均值向量，协方差矩阵。样本中心在直线上的投影为，样本的协方差为。2.矩阵的2-范数：又名欧几里得范数，即向量元素绝对值的平方和再开方，可以表示矩阵之间的距离。3.拉格朗日乘数法：对于前面定义中所设的一般目标函数和约束条件组, 应引入辅助函数称此函数为拉格朗日函数, 其中....称为拉格朗乘数。设上述条件极值问题中的函数与在在区域上有连续一阶偏导数.。若的内点是该条件极值问题的极值点, 且则对于m 个常数使得。
贝叶斯线性判别分析LDA_lda_贝叶斯判别分析LDA_线性判别分析_slabsmml_
10-01
贝叶斯线性判别分析（Bayesian Linear Discriminant Analysis，简称LDA）是一种统计方法，常用于数据的降维和分类。它基于贝叶斯定理，将线性判别分析（Linear Discriminant Analysis）与概率框架相结合，提供了一种...
性判别分析方法FDA总结
12-16
FDA总结 2.1 Fisher Discriminant Analysis 2.1.1 两类情况 2.1.2 多类情况 2.2 判别向量之间的相关性 2.2.1正交LDA(FSLDA) 2.2.2 不相关的LDA(ULDA) 2.2.3 一个融合准则 2.3 SSS问题及其解决 2.3.1 代数方法 2.3.2　两步方法 2.3.3判别空间分析. 2.3.4　其它方法 2.4 关于类间散布矩阵 2.5其它线性判别分析方法 2.6 ILDA 2.7核LDA 2.8　2D-LDA 2.9　PCA和LDA的比较
西瓜书习题 - 3.线性模型
热门推荐
wdn blog
10-25 1万+
西瓜书第三章线性模型习题
线性判别分析（一）——LDA介绍
CodeTutor
10-12 3349
1. LDA的基本思想LDA(Linear Discriminant Analysis, 线性判别分析)由Fisher于1936年提出，又称为Fisher线性判别。LDA既可以用于解决分类问题，又可以对数据进行降维处理。 基本思想 将高维的样本数据投影到判别向量空间，以达到抽取分类信息和降低特征维数的效果，投影后保证数据在新的子空间中有最大的类间距离和最小的类内距离，即在该子空间有最佳的可
线性判别分析LDA—西瓜书课后题3.5—MATLAB代码
macunshi的专栏
06-21 6671
题目：编程实现线性判别分析LDA，给出西瓜数据集 3.0a上的结果 简单说就是找一个分离度最大的投影方向，把数据投射上去。 clc clear all [num,txt]=xlsread('D:\机器学习\WaterMelon_3.0.xlsx'); %提取有效数据 data=num(1:end,[1,8,9]); label_txt=txt([2:end],10); label=ismem...
【机器学习】西瓜书_周志华，MATLAB编程实现线性判别分析，给出西瓜数据集3.0a上的结果。
六六六六神的博客
09-21 5819
参考博客：https://blog.csdn.net/qq_20406597/article/details/80166589 MATLAB编程实现线性判别分析，给出西瓜数据集3.0a上的结果。 1.线性判别分析理论 LDA（Linear Discriminant Analysis）的思想非常朴素：找出一条支线，使同类的样本在直线上的投影点尽可能近，异类的样本在直线上的投影点尽可能远。 涉及的公...
西瓜书线性模型课后题sklearn实现
小苏的博客
09-06 735
文章参考了，笔者代码基础很差，只使用sklearn对《机器学习》第三章课后习题3.3和3.5，分别对应对数几率回归和线性判别分析模型做了简单实现。水平有限，如有错误敬请指正。
线性判别准则(LDA)与线性分类算法(SVM))
weixin_47554309的博客
11-01 1862
线性判别准则与线性分类算法一、线性判别分析简介二、线性判别分析原理1. 类内散度矩阵2. 类间散度矩阵3. 广义瑞利商三、Sklearn库实现线性判别分析四、SVM1. 简介2. 距离衡量标准五、SVM数据集进行可视化分类月亮数据集1. 线性SVM2. 多项式核3. 高斯核六、总计七、参考 一、线性判别分析简介 线性判别分析（Linear Discriminant Analysis，简称LDA）是一种经典的有监督数据降维方法。 LDA的主要思想是将一个高维空间中的数据投影到一个较低维的空间中，且投影后要保
《机器学习》课后习题3.5 编辑实现线性判别分析，并给出西瓜数据集 3.0α 上的结果.
huzimu_的博客
03-28 3555
3.5 编辑实现线性判别分析，并给出西瓜数据集 3.0α 上的结果.
Python实现LDA线性判别分析的MATLAB风格指南
"Python实现线性判别分析(LDA)的MATLAB方式" 线性判别分析（LDA）是一种统计学方法，常用于多类别的分类任务，尤其在高维数据降维时表现出色。LDA的核心思想是寻找一个线性变换，将原始数据投影到一个低维空间中，...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值