LDA和PLSA的区别

最新推荐文章于 2024-01-14 21:42:20 发布
最新推荐文章于 2024-01-14 21:42:20 发布
阅读量1w 收藏 1
点赞数 1
分类专栏： 找工作 LDA 文章标签： 文档
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/caoeryingzi/article/details/6101651
版权

上半年总结的，从另外一个博客粘贴过来。

 

LDA克服了PLSA的缺点，LDA为每一个文档的topics的分布给了一个dirichlet distribution的prior。而PLSA没有。有人算过了，PLSA其实和LDA中取uniform dirichlet distribution的MAP/ML估计是一样的。从图上来说的话，产生式过程中，LDA在文档这一级别的外层多了一个参数a，用来生成不同文档中topics的分布。而PLSA，要么分开为每个文档单独分配topics的分布，要么就给一个分布假设吧。所以这样来说，LDA比PLSA更有鲁棒性？

caoeryingzi
关注
专栏目录
LSA、pLSA、LDA、NMF、BERTopic、Top2Vec进行主题建模
Mr数据杨
01-04 4425
在自然语言处理（NLP）中，主题建模是一种技术，用于从文本数据中发现隐藏的语义主题（或主题）。这是一个无监督机器学习问题，即在没有标签或标签的情况下学习模式。主题建模的应用非常广泛，可用于搜索引擎、情感分析、新闻聚类和摘要生成等许多任务。在这里将探讨主题建模的不同方法，包括传统的统计方法和最新的基于深度学习的方法。我们还将介绍每种方法的优点和缺点，并提供端到端的 Python 示例。
LDA PLSA 比较总结
Do_Cool_Thing
03-05 4146
下面内容总结自博客 http://blog.csdn.net/v_july_v/article/details/41209515 和 http://blog.csdn.net/hxxiaopei/article/details/7617838 以及 百度百科 首先介绍主题模型的概念： 顾名思义，主题模型是对文本隐含主题的建模。ＰLSA 和 LDA 都是文档主题生成模型，包含词，主题和文
pLSA 和 LDA
xiaocong1990的博客
05-23 2651
作者：weizier 链接：https://www.zhihu.com/question/23642556/answer/38969800 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 ”在这些文档中出现的概率相当。一般来说一篇文档都含有多个主题，这些主题之间所占比例有所不同，一篇文档10%是有关猫90%有关狗，那么这篇文档“狗”这个词出现的次数
LDA(Latent Dirichlet allocation )原理介绍及其在语义学习中的应用
机器智能
07-04 5314
以下内容均不是原创，都是从以下地址摘录转帖的学习笔记，多数都还没看懂，留下来以后再看 http://hi.baidu.com/flyer_hit/blog/item/2ec12d251dd9dd6835a80f55.html http://blog.csdn.net/feixiangcq/archive/2010/06/06/5650672.aspx http://fan.cos.nam
plsa java_LDA和PLSA的区别
weixin_39928667的博客
02-28 123
http://hi.baidu.com/flyer_hit/blog/item/2ec12d251dd9dd6835a80f55.htmlhttp://blog.csdn.net/feixiangcq/archive/2010/06/06/5650672.aspxhttp://fan.cos.name/cn/2010/10/fan16/http://hi.baidu.com/flyer_hit/b...
LDA和PLSA
konstantin的博客
03-08 565
pLSA的总结 1）pLSA应用于信息检索、过滤、自然语言处理等领域，pLSA考虑到词分布和主题分布，使用EM算法来学习参数。 2） 虽然推导略显复杂，但最终公式简洁清晰，很符合直观理解，需用心琢磨；此外，推导过程使用了EM算法，也 是学习EM算法的重要素材。 二、LDA （1）共轭先验分布 1）由于x为给定样本，P(x)有时被称为“证据”，仅仅是归一化因子，如果不关心P(θ|x)的具体...
lda and plsa
06-25
潜藏狄利克雷分配（LDA）和概率潜在语义索引（PLSI）是自然语言处理和信息检索领域的重要模型，它们主要用于语言模型的构建和文档分析。本文将详细探讨这两个模型之间的关系以及它们在信息检索中的应用。 首先，LDA...
BOW and pLSA and LDA
07-05
对BOW模型，pLSA模型，LDA模型进行详细的分析
LDA（一）：LDA前身PLSA介绍与推导
自然语言处理小站
05-21 4544
PLSA介绍与推导：概率隐语义分析（PLSA）是一个著名的针对文本建模的模型，是一个生成模型。因为加入了主题模型，所以可以很大程度上改善多词一义和一词多义的问题。数学基础：生成模型： 预测模型的公式是P(y|x)P(y|x)，即给定输入，输出给定输入的概率分布，就要学习联合分布P(x,y)P(x,y)，所以还要先求出P(x)P(x)，反应的数据本身的相似度。 这样的方法之所以称为生成方法，是因
Plsa和lda的区别
05-30
PLSA（Probabilistic Latent Semantic Analysis）和LDA（Latent Dirichlet Allocation）都是主题建模方法，但在方法和应用上存在一些区别： 1. 原理不同：PLSA是一种基于生成模型的主题建模方法，假设文本数据由...
PLSA 和 LDA 对比？
最新发布
XUYH6904的博客
01-14 503
PLSA和LDA都是主题模型，但PLSA是基于最大似然估计的生成式模型，而LDA是基于贝叶斯推断的生成式模型。LDA具有更好的泛化性能和对稀疏数据的建模能力，但计算复杂度较高。在实际应用中，可以根据具体需求选择适合的模型。
深入理解LDA和pLSA
hlang8160的博客
08-05 989
主题模型LDA         在开始下面的旅程之前，先来总结下我们目前所得到的最主要的几个收获： 通过上文的第2.2节，我们知道beta分布是二项式分布的共轭先验概率分布：  “对于非负实数和，我们有如下关系       其中对应的是二项分布的计数。针对于这种观测到的数据符合二项分布，参数的先验分布和后验分布都是Beta分布的情况，就是Beta-Binomial 共轭...
pLSA与LDA中的parameter estimation笔记
xyqzki的专栏
08-31 970
1. pLSA中 是用MLE or MAP来做parameter estimation的，即把p(z|w) 看做a unknown function of z, i.e. f(z), 求一个optimal z. 这个是point estimator 2. 在LDA中，求p(z|w)是用bayesian inference。 即求p(z|w)的分布，将其看做一个random variable，不同
LSA (Latent Semantic Analysis) & PLSA (Probability Latent Semantic Analysis)
cuiyanws的专栏
12-20 4172
自然语言和文本处理是人工智能和机器学习方面的一个重大的挑战，在这个领域中的任何巨大进步都会对信息检索，信息过滤，智能接口，语言识别，自然语言处理，机器学习产生重大的影响。机器学习的主要难点在于“被阐述”的词法和“真正要表达”的语义的区别。产生这个问题的原因主要是：1.一个单词可能有多个意思和多个用法。2. 同义词和近义词，而且根据不同的语境或其他因素，原本不同的单词也有可能表示相同的意思。 LSA是处理这类问题的著名技术，其主要思想就是映射高维向量到潜在语义空间，使其降维。LSA的目标就是要寻找到
如何区分US、PAW、LDA、GGA、PW91
热门推荐
pptde的博客
11-09 2万+
本文转载自：http://www.52souji.net/2652.html vasp计算中用到的三种赝势：模守恒赝势，超软赝势，PAW赝势(按产生顺序)。 按方法不同分为USPP（ultrasoft pesudopotential，超软赝势）和PAW（projector augmented wave，投影缀加平面波），两种方法都可以相当程度地减少过渡金属或第一行元素的每个原子所必需的平面波数...
11.主题模型概述（PLSA+LDA）
taka_is_beauty的博客
03-08 941
1.引出主题模型 对于文本分类的问题出现了“一词多义”，“多词一义”，朴素贝叶斯无法解决！ 针对此，引出主题这个概念，通过主题，可以把一个词映射到多个主题中，可以把多个词映射到一个主题中去！ ps：通过主题这个隐变量，来改善现存的问题！ 2.主题模型之pLSA（EM算法的应用） 1.选定文档 2.通过文档选定主题 3.通过主题选定词 ps：主要流程就是通过文档选择一个主题，根据主...
【转】主题模型--pLSA,LDA
tianbwin2995的专栏
02-16 5569
原文地址：http://blog.csdn.net/huagong_adu/article/details/7937616 上个月参加了在北京举办SIGKDD国际会议，在个性化推荐、社交网络、广告预测等各个领域的workshop上都提到LDA模型，感觉这个模型的应用挺广泛的，会后抽时间了解了一下LDA，做一下总结： （一）LDA作用         传统判断两个文档相似性的方
【机器学习】主题模型（二）：pLSA和LDA
weixin_30675247的博客
11-04 242
-----pLSA概率潜在语义分析、LDA潜在狄瑞雷克模型 一、pLSA（概率潜在语义分析） 　　pLSA: -------有过拟合问题，就是求D, Z, W 　　pLSA由LSA发展过来，而早期LSA的实现主要是通过SVD分解。pLSA的模型图如下： 公式中的意义如下： 　　具体可以参考2010龙星计划：机器学习中对应的主题模型那一讲 ...
LDA与pLSA：主题模型的贝叶斯视角
本文主要讨论两种主题模型：概率潜在语义分析（pLSA）和latent Dirichlet allocation（LDA）。 1、pLSA的宏观理解 pLSA是一种基于生成模型的方法，用于模拟文档的生成过程。假设我们有一个文档集，其中包含K个潜在...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值