线性判别分析。对于具有类别标签的数据，应当如何设计目标函数使得降维过程中不损失类别信息？在这种目标下，应当如何进行求解？

最新推荐文章于 2022-06-14 17:42:10 发布
最新推荐文章于 2022-06-14 17:42:10 发布
阅读量325 收藏
点赞数
分类专栏： 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_29678299/article/details/88770768
版权

线性判别分析首先是为分类服务的，因此只要找到一个投影方向w，使得投影后的样本尽可能按照原始类别分开。

线性判别分析中心思想，最大化类间距离和最小化类内距离。

 

省略推导过程，，，后续补充。。。

光英的记忆
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
线性判别分析_线性判别分析浅析及推导
weixin_39808893的博客
12-18 652
线性判别分析（Linear Discriminant Analysis, LDA），LDA是一种监督学习的降维技术，其具体的原理用一个栗子来说明。首先，从一个简单的分类开始，如下图所示尝试找一个向量，并将各个样本投影到该向量上，比如上面的向量虽然将两类样本区分开了，但是我们的目标并不是直接分开这两类样本，而是使它们的投影能够尽可能的分开，一个比较好的栗子如下所示：可以看到，投影后的结果，对于同一个...
LDA（线性判别分析 )
weixin_41690708的博客
07-31 1080
　在主成分分析（PCA）原理总结中，对降维算法PCA做了总结。这里我们就对另外一种经典的降维方法线性判别分析（Linear Discriminant Analysis, 以下简称LDA）做一个总结。LDA在模式识别领域（比如人脸识别，舰艇识别等图形图像识别领域）中有非常广泛的应用，因此我们有必要了解下它的算法原理。 思想： 　LDA是一种监督学习的降维技术，也就是说它的数据集的每个样本是有类别...
机器学习笔记：线性判别分析（Fisher）
qq_40206371的博客
11-04 506
线性判别分析可用于处理二分类问题，其过程是寻找一个最佳的投影方向，使得样本点在该方向上的投影符合类内小、类间大的思想（“低耦合，高内聚”），具体指的是类内的方差之和小，类间的均值之差大。 1 、数据 2 目标函数 2.1 均值&方差 ——>这个是两个类放到一块的数据集的均值和方差 2.2 目标函数 定义目标函数 2.2.1 分子 分子是类间均值的距离（中心点之间的距离），越大表示类“分得越快” ...
线性判别分析（一）——LDA介绍
CodeTutor
10-12 3318
1. LDA的基本思想LDA(Linear Discriminant Analysis, 线性判别分析)由Fisher于1936年提出，又称为Fisher线性判别。LDA既可以用于解决分类问题，又可以对数据进行降维处理。 基本思想 将高维的样本数据投影到判别向量空间，以达到抽取分类信息和降低特征维数的效果，投影后保证数据在新的子空间中有最大的类间距离和最小的类内距离，即在该子空间有最佳的可
机器学习笔记（三）-线性判别分析
Blessy_Zhu的博客
04-24 7368
在文章[机器学习笔记（一）-线性回归](https://blog.csdn.net/weixin_42555080/article/details/89357470)中已经介绍了线性回归，文中提到，线性回归是最基本最简单的机器学习算法，但是，在打破线性回归的某一特性时会出现新的算法。正如文章[机器学习笔记（二）-感知机](https://blog.csdn.net/weixin_42555080/article/details/89412841)中介绍的感知机，它是打破了线性中的全局非线性这一性质——它是将
FLDA-2020线性判别分析_flda_费舍尔_费舍尔线性_费舍尔线性判别分析F-LDA_降维_源码
10-02
费舍尔线性判别分析（Fisher's Linear Discriminant Analysis，简称FLDA或LDA）是一种统计学方法，常用于高维数据的降维和分类。由英国统计学家Ronald Aylmer Fisher在1936年提出，它旨在找到一个线性的投影空间，...
Fisher算法线性判别分析python实现
04-01
线性判别分析（Linear Discriminant Analysis，简称LDA）是一种经典的统计方法，常用于多类别的分类问题，尤其在高维数据降维时表现出色。Fisher算法，即Fisher判别分析，由R.A. Fisher提出，是LDA的基础。本教程将...
线性分类的数学基础与应用、Fisher判别的推导（python）、Fisher分类器（线性判别分析，LDA）
12-20
线性分类是机器学习中的一种基础方法，尤其适用于数据具有线性可分性的场景。Fisher判别分析（Fisher Discriminant Analysis, FDA）是线性分类中的一个重要理论，它由R.A. Fisher提出，主要用于高维数据的降维和分类...
线性判别_判别分析_matlab_线性判别分析_线性判别_源码
10-01
线性判别分析（LDA）是一种统计方法，主要用于数据分类和降维。在机器学习领域，LDA常被用于预处理步骤，帮助我们理解数据的结构并减少特征空间的维度，同时保持类间差异的最大化。MATLAB是实现线性判别分析的常用...
遗传算法的优化计算.zip_sideskah_talespcj_遗传算法优化_遗传算法的多目标降维计算_降维
07-14
降维方法如主成分分析（PCA）、线性判别分析（LDA）或者非线性的方法如t-SNE，可以将高维数据映射到低维空间，同时保持数据的主要结构。然而，遗传算法可以作为一种创新的降维手段，特别是在面对多目标优化问题时，...
百面机器学习总结笔记（第四章 降维）
Avery123123的博客
11-03 254
百面机器学习总结笔记（第四章 降维）
线性判别分析(LDA)详解
tt丫的博客
05-14 2万+
入门小菜鸟，希望像做笔记记录自己学的东西，也希望能帮助到同样入门的人，更希望大佬们帮忙纠错啦~侵权立删。 目录 一、LDA简介 二、数学原理（以二分类为例子） 1、设定 2、每一类的均值和方差 3、目标函数 4、目标函数的求解 三、多分类LDA 四、LDA用途与优缺点 1、用途 2、优点 3、缺点 五、LDA的python应用 1、调用函数LinearDiscriminantAnalysis 2、常用参数意义 3、常用返回值 4、利用LDA进行二分类实例 5、利用LDA进
机器学习期末题库
Destiny_159的博客
06-14 2万+
1.属于监督学习的机器学习算法是：贝叶斯分类器2.属于⽆监督学习的机器学习算法是：层次聚类3.⼆项式分布的共轭分布是：Beta分布4.多项式分布的共轭分布是：Dirichlet分布5.朴素贝叶斯分类器的特点是：假设样本各维属性独⽴6.下列⽅法没有考虑先验分布的是：最⼤似然估计7.对于正态密度的贝叶斯分类器，各类协⽅差矩阵相同时，决策函数为：线性决策函数8.下列属于线性分类⽅法的是：感知机9.下列⽅法不受数据归⼀化影响的是：决策树10.下列分类⽅法中不会⽤到梯度下降法的是：最⼩距离分类器11.下列⽅法使⽤最⼤
Python机器学习实训营（原理推导+代码复现+实验分析）
07-14
购买课程后，添加小助手微信（微信号：csdnxy68）回复【唐宇迪】进入学习群，获取唐宇迪老师答疑Python机器学习实训营（原理推导+代码复现+实验分析）课程旨在帮助同学们在机器学习领域打下坚实基础。课程注重算法原理讲解与数学公式推导并基于Python语言给出完整的代码实现，从零开始实现每一模块功能（非调用工具包）通过代码实例演示算法工作流程与实现方法，基于案例进行实验分析，算法涉及核心知识点全方位解读。整体风格通俗易懂，建议同学们在学习过程中先掌握算法原理，基于数学推导公式进行代码复现与实战演练。课程提供全部课程所需PPT，数据，代码。
线性判别分析（Linear Discriminant Analysis，LDA）
SongGu1996的博客
07-23 1万+
基础不牢，地动山摇。 线性判别分析（Linear Discriminant Analysis，LDA）是一种经典的线性学习方法，它既可以用于分类问题，也可以用于有监督的特征降维。它的思想非常朴素：给定训练样本，设法将样本特征投影到一个向量上，并且希望同类样本的投影点越近越好，异类样本的投影点越远越好。在对新样本进行分类时，照样将新样本的特征投影到这个向量上，再根据投影点的位置来确定新样本的类别。...
线性判别分析（Linear Discriminant Analysis）
热门推荐
Daunxx的专栏
07-11 7万+
从贝叶斯公式出发，得到了线性判别分析的公式，这里从另外一个角度来看线性判别分析，也就是常说的Fisher判别式。其实Fisher判别式就是线性判别分析（LDA），只是在讨论Fisher判别式的时候，更侧重于LDA的数据降维的能力。
线性判别分析(LDA)
Lavi的专栏
12-22 5万+
前言在之前的一篇博客机器学习中的数学(7)——PCA的数学原理中深入讲解了，PCA的数学原理。谈到PCA就不得不谈LDA，他们就像是一对孪生兄弟，总是被人们放在一起学习，比较。这这篇博客中我们就来谈谈LDA模型。由于水平有限，积累还不够，有不足之处还望指点。下面就进入正题吧。为什么要用LDA前面的博客提到PCA是常用的有效的数据降维的方法，与之相同的是LDA也是一种将数据降维的方法。PCA已经是一种
线性判别分析 LDA总结
u013614079的博客
09-05 1541
1.线性判别分析的目标 类间散度矩阵小，类内散度矩阵大。这个意思就是，同类的点越聚集，而不同类的点越分散。 2.散度矩阵的定义 C类数据，n个样本点，X为d*n的矩阵，每一个数据点都有d个维度。n_i表示第i类的样本点个数。u_i表示第i类样本点的平均值，注意是对所有n_i个样本点的同一个维度取平均，而u为所有n个样本点的平均，这里仍然是维度的平均组成的向量。 这里需要说明一下，max rank(...
机器学习笔记之（4）——Fisher分类器（线性判别分析，LDA）
gwpscut的博客
05-22 5万+
本博文为Fisher分类器的学习笔记~本博文主要参考书籍为：《Python大战机器学习》Fisher分类器也叫Fisher线性判别（Fisher Linear Discriminant），或称为线性判别分析（Linear Discriminant Analysis，LDA）。线性模型对于给定样本，其中为样本的第n种特征。线性模型的形式为：其中，为每个特征对应的权重生成的权重向量。其实这个线性模型也...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值