[nlp] LSA——latent semantic analysis潜在语义分析

最新推荐文章于 2021-07-23 08:59:56 发布
最新推荐文章于 2021-07-23 08:59:56 发布
阅读量378 收藏
点赞数
分类专栏： nlp
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Trance95/article/details/104975968
版权
本文介绍了LSA（潜在语义分析）的概念，基于分布假设，通过奇异值分解（SVD）对文档-词项矩阵进行分解，从而揭示文档和词汇之间的潜在语义关联。通过比较低维空间中的向量，可以实现文档和查询的相似度计算，应用于文本聚类和信息检索。
摘要由CSDN通过智能技术生成

参考：https://en.wikipedia.org/wiki/Latent_semantic_analysis
**分布假设：**具有相似分布的语言项目具有相似的含义。
在这里插入图片描述

一、推导

建立document-term matrix 术语文档矩阵。
在这里插入图片描述
现在是点积   t i T  

了解本专栏 订阅专栏 解锁全文 超级会员免费看
心心喵
关注
专栏目录
订阅专栏
潜在语义分析(Latent Semantic Analysis）
data+scenario+science+insight
07-23 1330
潜在语义分析(Latent Semantic Analysis） 潜在语义分析(Latent Semantic Analysis, LSA)是自然语言处理中的一种方法或技术。潜在语义分析(LSA)的主要目标是为文本创建基于向量的表示，从而生成语义内容。通过向量表示(LSA)计算文本之间的相似度，选择有效相关词。在早期的许多技术文献中LSA模型被称为潜在语义索引LSI模型，但在信息检索任务中得到了改进。因此，查找接近查询的少数文档是从许多文档中选择的。LSA需要考虑关键字匹配、关键字数量匹配
latent semantic analysis
05-09
LSA(latent semantic analysis)潜在语义分析，也被称为 LSI(latent semantic index)，是 Scott Deerwester, Susan T. Dumais 等人在 1990 年提出来的一种新的索引和检索方法。该方法和传 统向量空间模型(vector space model)一样使用向量来表示词(terms)和文档(documents)，并通 过向量间的关系(如夹角)来判断词及文档间的关系；而不同的是，LSA 将词和文档映射到潜 在语义空间，从而去除了原始向量空间中的一些“噪音”，提高了信息检索的精确度。
NLP系列学习：潜在语义牵引
weixin_33713350的博客
01-17 99
关于主题模型这一块是比较特殊的,这期间也给我带来了一些困惑,因为其中的一些算法和我们在机器学习中使用的算法还是很不同的,在这篇文章里,我想简单介绍下LSI(潜在语义牵引)这个模型的作用是通过海量的文献找出词汇的关系.就跟警察抓嫌疑人一样,犯罪事件在这个区域里出现的多了,这片区域越有可能成为犯罪的重点辖区. 词汇也是这样,当一些词汇大量出现在一篇文章里时,我们可以认为这篇文章会倾向去成为某一种类型,...
【译】潜在语义分析Latent Semantic Analysis (LSA)
卖小孩的咖啡
08-11 1万+
目录目录 概述 Tutorial LSA的工作原理 How Latent Semantic Analysis Works 实例A Small Example Part 1 - Creating the Count Matrix Python - Import Functions Python - Define Data Python - Define LSA Class Python - Parse
LSA(Latent semantic analysis)
热门推荐
fkyyly的专栏
11-30 2万+
LSA最初是用在语义检索上，为了解决一词多义和一义多词的问题： 1.一词多义： 美女和PPMM表示相同的含义，但是单纯依靠检索词“美女”来检索文档，很可能丧失掉那些包含“PPMM”的文档。 2.一义多词：如果输入检索词是多个检索词组成的一个小document，例如“清澈 孩子”，那我们就知道这段文字主要想表达concept是和道德相关的，不应该将“春天到了，小河多么的清澈”这样的文本包含在内。 为...
潜语义分析(Latent Semantic Analysis)
weixin_30852419的博客
06-30 102
LSI(Latent semantic indexing, 潜语义索引）和LSA（Latent semantic analysis,潜语义分析）这两个名字其实是一回事。我们这里称为LSA。 LSA源自问题：如何从搜索query中找到相关的文档?当我们试图通过比较词来找到相关的文本时，就很机械、存在一定的局限性。在搜索中，文档的相似性并不应该由两个文本包含的词直接决定，而是应该去比较隐藏...
潜在语义分析Latent semantic analysis note(LSA)原理及代码实现
bob007的专栏
06-13 1万+
Latent Semantic Analysis (LSA)也被叫做Latent Semantic Indexing(LSI)，从字面上的意思理解就是通过分析文档去发现这些文档中潜在的意思和概念。假设每个词仅表示一个概念，并且每个概念仅仅被一个词所描述，LSA将非常简单（从词到概念存在一个简单的映射关系） 不幸的是，这个问题并没有如此简单，因为存在不同的词表示同一个意思（同义词），一个词表示多个
Latent Semantic Analysis (LSA) 模型 学习笔记
bigfacesafdasgfewgf
12-03 6424
Latent Semantic Analysis 模型，隐性语义分析，也就是我们常说的LSA模型。后面还有他的兄弟PLSA和LDA模型，这个我们后面再说。这几个都是NLP中比较经典的模型！学习这个模型，主要总结到了三个方面：LSA模型可以应用在哪儿？LSA的理论部分，以及LSA的优缺点分析。
Latent-Semantic-Analysis
04-20
潜在语义分析 潜在思维分析（LSA）是一种理论和自然语言处理方法，用于分析一组文档与文档中包含的术语之间的关系。 一种称为“奇异值分解（SVD）”的数学技术用于检查非结构化数据，以查找术语和概念之间的隐藏关系。 有关LSA理论和方法的更多信息，可以在以下位置的论文中找到： : 。 在此存储库中实现的Python代码基于LSA方法。 给定一组文本文档，该代码可用于查找这些文档中单词之间的相关性以及该文档集中的文档之间的相关性。 此存储库中有4个子目录：源，输入，输出和脚本。 下面是每个子目录的描述： source: has the source code input: has the inputs data for the source code output: has the outputs from the source code scritps: has shell scr
深入理解LSA：Latent Semantic Analysis
在信息检索和自然语言处理领域，LSA（Latent Semantic Analysis）是一种用于处理文本数据的技术。其基本思想是通过对文本数据进行奇异值分解，将文本从原始的高维空间映射到一个更低维的语义空间中，从而发掘文本...
概率潜在语义分析（Probabilistic Latent Semantic Analysis，PLSA）
data+scenario+science+insight
07-23 188
概率潜在语义分析（Probabilistic Latent Semantic Analysis，PLSA） 目录 概率潜在语义分析（Probabilistic Latent Semantic Analysis，PLSA） pLSA模型 改进LSA pLSA的应用 pLSA模型 概率潜在语义分析（Probabilistic Latent Semantic Analysis，PLSA）是继LSA方法之后推出的一种新方法，旨在解决某些LSA的缺点。Jan Puzicha.
nlp--Latent Semantic Analysis(LSA/ LSI)算法简介
飘过的春风
01-12 1818
1. 传统向量空间模型的缺陷    向量空间模型是信息检索中最常用的检索方法，其检索过程是，将文档集D中的所有文档和查询都表示成以单词为特征的向量，特征值为每个单词的TF-IDF值，然后使用向量空间模型(亦即计算查询q的向量和每个文档di的向量之间的相似度)来衡量文档和查询之间的相似度，从而得到和给定查询最相关的文档。   向量空间模型简单的基于单词的出现与否以及TF-IDF等信息来进行检索，但是...
Latent Semantic Analysis
深藏功与名
09-15 1698
潜语义分析LSA介绍 Latent Semantic Analysis (LSA), also known as Latent Semantic Indexing (LSI) literally means analyzing documents to find the underlying meaning or concepts of those documents. If each
Latent Semantic Analysis(LSA/ LSI)算法简介
weixin_30634661的博客
04-17 128
本文地址为：http://www.cnblogs.com/kemaswill/，作者联系方式为kemaswill@163.com,转载请注明出处。 1. 传统向量空间模型的缺陷 向量空间模型是信息检索中最常用的检索方法，其检索过程是，将文档集D中的所有文档和查询都表示成以单词为特征的向量，特征值为每个单词的TF-IDF值，然后使用向量空间模型(亦即计算查询q的向量和每个文档di的向量之...
Latent Semantic Analysis(LSA)
斑驳记忆的专栏
12-12 1143
对于一个term-document加权词频矩阵(如TD/IDF),如果他的规模m*n非常大，那么这些文本的存储还有计算聚类都会有不小的麻烦，LSA采用SVD分解将高维文本映射到低维的隐含语义空间，较好的解决了这个问题。 分解后的三部分都有解释，U*sigma的每行都是每个单词在隐含语义层的坐标，V*sigma的每行都是每个文本在隐含语义层的坐标，另外也有一种说法就是U，V分别为单词和文本在潜
Latent Semantic Analysis（LSA）
搬砖小工053
06-17 9670
背景：什么是LSA?Latent Semantic Analysis（LSA）中文翻译为潜语义分析，也被叫做Latent Semantic Indexing ( LSI )。意思是指通过分析一堆（不止一个）文档去发现这些文档中潜在的意思和概念，什么叫潜在的意思？我第一次看到这个解释，直接懵逼。其实就是发现文档的中心主题吧？假设每个词仅表示一个概念，并且每个概念仅仅被一个词所描述，LSA将非常简单（从
理解潜在语义分析：一种文本意义提取方法
潜在语义分析（Latent Semantic Analysis，LSA）是一种理论和方法，通过统计计算应用到大规模文本语料库，来提取和表示单词的上下文使用意义。这一理论由Thomas K Landauer、Peter W. Foltz和Darrell Laham等人在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

心心喵

喵喵(*^▽^*）

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值