Probability Latent Semantic Analysis (PLSA) 模型 学习笔记

最新推荐文章于 2020-05-26 19:01:40 发布
最新推荐文章于 2020-05-26 19:01:40 发布
阅读量9.8k 收藏 12
点赞数 2
分类专栏： NLP 文章标签： PLSA 主题模型 EM算法 NLP 语义
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/puqutogether/article/details/41720073
版权

Probability Latent Semantic Analysis (PLSA) 模型 学习笔记

    

    PLSA是前面LSA的兄弟版，相比于LSA而言，PLSA定义了概率模型，而且每个变量以及相应的概率分布和条件概率分布都有明确的物理解释了。这篇博文我们分三部分来说PLSA：基本思想，EM算法推导，以及优缺点分析。


1.  PLSA的基本思想


    PLSA是一种主题模型topic model，是针对文本中隐含的主题来建模的方法。PLSA就是给定了文档d之后，需要以一定的概率选择与文档相对应的主题z，然后再从主题z中以一定的概率选择单词w。我们用下图来形象说明：

最低0.47元/天 解锁文章
bigface1234fdfg
关注
  • 2
    点赞
  • 踩
  • 12
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
[学习笔记]学习主题模型(Topic Model)和PLSA( probabilistic latent semantic analysis）
xiaopei的博客
05-30 6万+
from: http://www.hxxiaopei.com/?p=71 读了著名的【Google News Personalization Scalable Online CF】，提及到针对用户聚类，利用相似用户性信息计算喜欢的news。其中包含min-hash以及plsi，产生了对plsi的兴趣。 plsi是model-based 推荐算法，属于topic(aspect) mo
主题模型（3）——PLSA模型及其EM算法求解
zxhohai的博客
03-01 2375
之前整理过两篇关于主题模型的博客《文本建模之Unigram Model，PLSA与LDA》和《再看LDA主题模型》，主要是整理了主题模型的由来和推导过程，关于模型参数怎么计算没有过多涉及，因此接下来将分两篇博客，分别整理PLSA模型和EM算法求解，LDA模型和Gibbs Sample求解。 PLSA 首先回顾下PLSA，作为生成模型，其在文本生成过程中，引入主题的概念，即先从KKK个主题中选定一个...
Latent Semantic Indexing Model
huobengle
12-03 159
Latent Semantic Indexing Model
主题模型之潜在语义分析（Latent Semantic Analysis）
weixin_34306446的博客
09-17 945
主题模型（Topic Models）是一套试图在大量文档中发现潜在主题结构的机器学习模型，主题模型通过分析文本中的词来发现文档中的主题、主题之间的联系方式和主题的发展。通过主题模型可以使我们组织和总结无法人工标注的海量电子文档。较早的主题模型有混合语言模型（Mixture of Unigram），潜在语义索引（Lantent Semantic Index，LSI），概率潜在语义索引（Probabi...
海量数据挖掘MMDS week4: 推荐系统之隐语义模型latent semantic analysis
皮皮blog
10-19 2227
海量数据挖掘Mining Massive Datasets(MMDs) -Jure Leskovec courses学习笔记 推荐系统Recommendation System之隐语义模型latent semantic analysis {博客内容：推荐系统构建三大方法：基于内容的推荐content-based，协同过滤collaborative filtering，隐语义模型(LFM, l
Counterexamples in Probability and Real Analysis
04-15
作者 Gary L. Wise / Eric B. Hall. 1993
Real Analysis and Probability
05-08
Real Analysis and Probability
probability graph model（概率图模型）
07-25
probability graph model（概率图模型）英文原版，可以复制
Probability, Random Processes, and Statistical Analysis
09-05
Cambridge University
PLSA python实现
05-17
python
Introduction to Probability
08-16
《Introduction to Probability》是一本深度介绍概率模型的入门书籍，非常适合初学者以及对机器学习有进一步探索需求的读者。在当今大数据与人工智能的时代，概率论与统计学是理解和解决复杂问题的重要工具，尤其是...
概率潜在语义分析（ PLSA）详解
zhong_ddbb的博客
05-24 2357
文章目录生成模型共现模型模型性质模型参数与LSA关系PLSA实现算法 概率潜在语义分析（probabilistic latent semantic analysis, PLSA）是一种利用概率生成模型对文本集合进行话题分析的无监督方法。模型最大的特点是用隐变量表示话题，整个模型表示文本生成话题，话题生成单词，从而得到单词—文本共现数据的过程。 假设每个文本由一个话题分布决定，每个话题由一个单词分布决定。潜在语义分析基于非概率模型，概率潜在语义分析基于概率模型。 生成模型 假设有M个单词集合W={w1,w2.
Latent Semantic Analysis
深藏功与名
09-15 1681
潜语义分析LSA介绍 Latent Semantic Analysis (LSA), also known as Latent Semantic Indexing (LSI) literally means analyzing documents to find the underlying meaning or concepts of those documents. If each
PLSA详解推导
ustccyf的专栏
05-21 1674
PLSA的概率图模型如下 其中D代表文档，Z代表隐含类别或者主题，W为观察到的单词，表示单词出现在文档的概率，表示文档中出现主题下的单词的概率，给定主题出现单词的概率。并且每个主题在所有词项上服从Multinomial 分布，每个文档在所有主题上服从Multinomial 分布。整个文档的生成过程是这样的： (1) 以的概率选中文档； (2
plsa 公式推导
march_on的专栏
05-13 2498
plsa中完全数据（complete data）的似然函数： 其中，表示文档i中的第j个单词的主题是否为k，如果为k则为1，否则为0 相应地，对数似然函数如下 然后Q function就是 又有两个约束条件： 下面利用拉格朗日乘法求参数 拉格朗日函数： 然后分别对参数求导： 求解过程：以（1）为例，将（1）变换成如下形
潜在语义分析Latent Semantic Analysis (LSA) *
u014765410的博客
10-14 435
潜在语义分析Latent Semantic Analysis (LSA)
概率潜在语义分析(pLSA) 相关知识
VariableX的博客
05-26 805
文章目录生成模型共现模型模型性质共现模型表示PLSA算法 概率潜在语义分析（PLSA）是一种利用概率生成模型对文本集合进行话题分析的无监督方法。PLSA 模型假设每个文本由一个话题分布决定，每个话题由一个单词分布决定。该模型中的话题是不可直接观测到的，是潜在的隐变量。整个模型表示文本生成话题，话题生成单词，从而得到单词—文本共现数据的过程。 生成模型 假设有M个单词集合W={w1,w2.…,wM}W=\{w_1,w_2.\ldots,w_M\}W={w1​,w2​.…,wM​}，N个文本集合D={d1,d2
PLSA的理解及推导
赵小越的博客
08-09 2903
        plsa对于文本主题的发展，在于其对于lsa进行了概率化，也就是文档的生成过程涉及到了选择主题，然后从主题中选择单词的过程，这二个选择的过程都满足多项式分布的情况。        对于PLSA而言，就是一个典型的EM算法问题呀。主题就是隐含变量，已知变量就是单词，文本的情况。再求解EM算法时，首先要明确极大化的对数似然函数，然后求E步，E步求解中首先要把隐含变量的条件概率求出来，...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值