LDA算法推导

最新推荐文章于 2024-08-02 23:32:13 发布
最新推荐文章于 2024-08-02 23:32:13 发布
阅读量425 收藏 1
点赞数
文章标签： 算法 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_52290822/article/details/121108733
版权

LDA算法是什么

简单地说LDA算法就是向低维度投影，让同一类别数据投影点更接近，不同类别数据点距离更远。

LDA原理

定义，已知

请添加图片描述

我们要把两类数据都投影到w直线上。请添加图片描述

让不同类别的数据的类别中心之间的距离尽可能的大，
同一种类别数据的投影点尽可能的接近

不同类别的数据的类别中心之间的距离越大，越能取分两类
同一种类别数据的投影点越接近越能聚合聚拢。

如图， 最后的优化目标最大。

请添加图片描述

请添加图片描述

completion of a poem
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
LDA算法的数学推导过程详解
AGI通用人工智能之禅
04-08 464
主题模型是自然语言处理和文本挖掘领域的一个重要研究方向,它可以自动发现文档集合中潜在的主题结构。其中,潜在狄利克雷分配(Latent Dirichlet Allocation, LDA)是最常用和最成功的主题模型之一。LDA是一种无监督的贝叶斯概率模型,能够有效地发现文档集合中隐藏的主题结构。LDA模型的核心思想是:每个文档可以表示为多个主题的概率分布,每个主题又可以表示为词语的概率分布。通过学习这些潜在的主题分布和词语分布,LDA模型可以发现文档集合中蕴含的语义主题信息。
机器学习——线性判别分析（LDA）推导
2301_82047153的博客
01-16 882
1.点到直线的投影均值与协方差：分别为第类示例的集合，均值向量，协方差矩阵。样本中心在直线上的投影为，样本的协方差为。2.矩阵的2-范数：又名欧几里得范数，即向量元素绝对值的平方和再开方，可以表示矩阵之间的距离。3.拉格朗日乘数法：对于前面定义中所设的一般目标函数和约束条件组, 应引入辅助函数称此函数为拉格朗日函数, 其中....称为拉格朗乘数。设上述条件极值问题中的函数与在在区域上有连续一阶偏导数.。若的内点是该条件极值问题的极值点, 且则对于m 个常数使得。
LDA算法简单推导
m0_48399828的博客
11-02 124
LDA算法
weixin_45936137的博客
04-12 8002
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言一、LDA是什么？二、公式推导三、PCA和LDA的区别总结 前言 线性判别分析（LDA）是一种有监督学习算法，同时经常被用来对数据进行降维。 它是1936年发明的，有些资料上也称之为Fisher LDA。LDA是目前机器学习、数据挖掘邻域中经典且热门的一种算法。 提示：以下是本篇文章正文内容，下面案例可供参考 一、LDA是什么？ 线性判别式分析，又称为Fisher线性判别。 找一个投影方向，使得把原来的类别投影到新的方向上
机器学习之LDA算法
笔记
06-25 3519
线性判别分析（linear discriminant analysis，LDA），是一种经典的线性学习方法，其原理是：给定训练样例集，设法将样例投影到一条直线上，使得同类样例的投影点尽可能接近，异类样例的投影点尽可能远离；在对新样本进行分类时，将其投影到同样的直线上，再根据投影点的位置来确定新样本的类别。LDA作为一种经典的机器学习算法，具有较好的降维效果和分类能力，同时对噪声具有一定的抗干扰能力。然而，LDA也有其局限性，适用于满足其假设条件的线性可分问题。
LDA算法（Fisher线性判别）
cocofisher的博客
12-04 617
LDA算法目的 最小化类内方差，最大化不同类中心间的距离。 LDA算法推导过程 假设： 样本共KKK类，每一类的样本个数为N1,N2,……,NkN_{1},N_{2},……,N_{k}N1​,N2​,……,Nk​。 x11,x12,……,x1N1x_{1}^{1},x_{1}^{2},……,x_{1}^{N_{1}}x11​,x12​,……,x1N1​​对应第一类 …… xK1,xK2,……,x1...
线性判别分析LDA（（公式推导+举例应用））
Nie同学的博客
01-09 2685
LDA不同于一些无监督降维方法，如主成分分析（PCA），它充分利用了类别信息，通过寻找最佳投影方向，使得不同类别的样本在降维后的空间中有最大的类间距离，同时保持同一类别内的样本尽量接近。LDA的核心思想是在降维的同时最大化类别之间的差异，通过寻找最佳投影方向，使得不同类别的样本在降维后的空间中有最大的类间距离，同时保持同一类别内的样本尽量接近。在这个过程中，LDA通过解决广义特征值问题，找到了最优的投影方向，从而能够将原始高维数据映射到一个维度更低的空间中，同时保留了最重要的类别间信息。
LDA推导
heda3的博客
03-16 506
LDA是一种：有监督、线性 有预测函数：y=wx （寻找最佳投影向量w）优化目标： 转化为求解特征值求解算法：QR算法 数学原理：而LDA是选择投影后使得类内方差小而类间方差大的方向来投影，用到了类别信息 参考：https://blog.csdn.net/shenziheng1/article/details/60467527 ...
秒懂---LDA算法
热门推荐
zhaoguanghua0407的博客
12-02 2万+
线性判别分析LDA原理总结 　　　　在主成分分析（PCA）原理总结中，我们对降维算法PCA做了总结。这里我们就对另外一种经典的降维方法线性判别分析（Linear Discriminant Analysis, 以下简称LDA）做一个总结。LDA在模式识别领域（比如人脸识别，舰艇识别等图形图像识别领域）中有非常广泛的应用，因此我们有必要了解下它的算法原理。 　　　　在学习LDA之前
5力扣：最长回文子串
m0_75015083的博客
08-02 87
从后到前遍历是为了让每一次遍历时所需用到的子串提前被计算过。
算法第十七天：leetcode242.有效的字母异位词
m0_75068978的博客
08-02 155
如下表所示，您可以直接复制下面网址进入力扣学习，在观看下面的内容之前您一定要先做一遍哦，以便让你印象更加深刻！
LeetCode：2740. 找出分区值（Java 排序）
Cosmoshhhyyy的博客
08-02 141
一道简单的mid题，翻译题目其实就是找出排序后两个相邻数之间的最小差值。
代码随想录算法训练营第三十三天 | 动态规划理论基础、509. 斐波那契数、70. 爬楼梯、746. 使用最小花费爬楼梯
weixin_43581681的博客
08-01 140
1. 动态规划基础；2. 背包问题；3. 打家劫舍；4. 股票问题；5. 子序列问题。1. 确定 dp[ i ] 数组及下标含义；2. 确定递推公式；3.确定dp数组如何初始化；4. 确定遍历顺序（背包问题中很重要）；5. 举例推导dp数组。
TypeScript 及算法准备
qq_25416827的博客
08-02 601
typescript复制代码function mergeSortedArrays(arr1: number[], arr2: number[]): number[] {typescript复制代码function flattenArray(arr: any[]): any[] {typescript复制代码function flattenArray(arr: any[]): any[] {typescript复制代码function flattenArray(arr: any[]): any[] {
算法板子：BFS(广度优先搜索)——迷宫问题，求从迷宫的起点到终点的最短路径； 八数码问题，求从初始布局到最终布局x最少移动多少次
m0_67839004的博客
08-01 282
【代码】算法板子：BFS(广度优先搜索)——迷宫问题，求从迷宫的起点到终点的最短路径。
动态规划，蒙特卡洛，TD,Qlearing,Sars,DQN,REINFORCE算法对比
yyyy2711的博客
08-02 653
模型依赖性：DP需要环境模型，而其他方法通常不需要。探索需求：MC和REINFORCE可能需要更多的探索，而DP和Q学习可以更专注于利用。样本效率：TD和DQN通常比MC和REINFORCE更样本高效。策略学习：Sarsa和REINFORCE学习与当前策略一致的策略，而Q学习和DP学习最优策略。适用性：DQN特别适合处理具有高维状态空间和连续动作空间的问题。在这种需要智能体探索地图、避免障碍并达到目标的任务中，一些算法可能比其他算法更适合。深度Q网络（DQN）
解决数组中心下标问题【前缀和、改进过程】
qq_22841387的博客
08-02 109
在解决数组中心下标问题时，我们经历了从暴力法到前缀和再到巧妙利用总和的优化过程。最终的算法不仅提高了时间复杂度，还优化了空间复杂度。前缀和：通过前缀和数组，我们可以在 O(1) 时间内得到任意位置的左侧和和右侧和。巧妙思想：利用数组总和与左和，可以高效计算右和，避免了额外的空间开销。
Leetcode238. 除自身以外数组的乘积（java实现）
Kirihara_Yukiho的博客
08-02 107
先遍历前缀积，num[0]的1的前缀积为1，num[1]，2的前缀积也是1，num[2]，3的前缀积为2…，前缀积的[1,1,2,6]；再计算它的后缀积=[1,4,12,24]，将前缀积和后缀积进行相乘即可得到目标数组。本道题我最先想到的是先乘积所有的元素，然后除以所有元素，但是本题无法使用除法。今天分享的题目是letcode238. 除自身以外数组的乘积。拿nums[]={1,2,3,4};本题的解题思路是使用前缀积。
Sentinel-1 Level 1数据处理的详细算法定义（五）
最新发布
中遥科
08-02 171
Sentinel-1 Level 1数据处理的详细算法定义（五）：多普勒中心频率估计，SLC产品算法
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值