数据挖掘笔记-情感倾向点互信息算法

已于 2023-01-30 18:38:06 修改
阅读量3.9w 收藏 31
点赞数 2
分类专栏： DataMining 文章标签： 数据挖掘 情感 互信息
于 2014-10-04 12:28:31 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/fighting_one_piece/article/details/39778809
版权
点互信息（PMI）用于衡量词语的语义相似度，而情感倾向点互信息（SO-PMI）算法则将其应用于情感分析。通过对褒义词和贬义词基准集合的PMI差值计算，确定词语的情感倾向，如正面、中性或负面。Java实现的SO-PMI算法示例可用于实际情感分析任务。
摘要由CSDN通过智能技术生成
       点间互信息（PMI）主要用于计算词语间的语义相似度，基 本思想是统计两个词语在文本中同时出现的概率，如果概率越大，其相关性就越紧 密，关联度越高。 两个词语word1与word2的PMI值计算公式如下式所示为：
P(word1&word2)表示两个词语word1与word2共同出现的概率，即word1与word2共同出现的文档数， P(word1)与P(word2)分别表示两个词语单独出现的概率，即word出现的文档数。若两个词语在数据集的某个小范围内共现概率越大，表明其关联度越大；反之，关联度越小。P(word1&word2)与P(word1)P(word2)的比值是word1与word2两个词语的统计独立性度量。 其值可以转化为3 种状态：
P(word1&word2) > 0 ；两个词语是相关的；值越大，相关性越强。 
P(word1&word2) = 0 ；两个词语是统计独立的，不相关也不互斥。
P(word1&word2) < 0 ；两个词语是不相关的，互斥的。
       情感倾向点互信息算法(Semantic Orientation Pointwise Mutual Information, SO-PMI)是
最低0.47元/天 解锁文章
人生偌只如初见
关注
  • 2
    点赞
  • 踩
  • 31
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
专栏目录
逐点互信息PMI（Pointwise mutual information）
白马负金羁
10-28 1万+
在数据挖掘或者信息检索的相关资料里，经常会用到PMI这个指标来衡量两个事物之间的相关性。而在NLP中，考察两个词的相关性也非常有意义。孔子说：“不知其人视其友” 。英语俗语中也有类似表述：“You shall know a person by the company it keeps.” 后来语言学家 Firth在此基础上造出“You shall know a word by the company it keeps” 这句语言学名句。可见考察两个词共同出现（co-occurrence）的性质就相当有必要，
SO-PMI算法进行新词情感极性判别，附带两种平滑方法。
05-09
基于SO-PMI算法的情感极性判别代码，有注释容易理解。针对2元词组共现频率为0的情况，参照论文设置了goodturing平滑和laplace平滑方法。论文可以自己去知网搜索。运行速度慢，建议训练数据不要超过80000条。
情感分析学习笔记（2）——SO-PMI算法详解
LiQZ的博客
10-12 1万+
整个项目是我借鉴了论文的内容一行代码一行代码敲的（除了.scel转为.txt），没有查阅github上面的开源项目等（就是说我自己封装了一个SO-PMI算法），说不定有漏洞或者思考不清晰的地方，如果发现了请麻烦指正。当然在进行计算的时候，我是采用的循环，并没有将数据矩阵化或者向量化（主要是还不清楚怎样矩阵化或者向量化），在运行效率上确实很差。 这是我在3400条数据集上跑出来的效果，效果很烂，主要数据集太拉胯了。 整个项目的代码除了数据集已开源到了github上，我会在文章后放上链接。 该项目算是复现了少.
点互信息PMI（Pointwise Mutual Information）
Fitz的博客
11-11 7300
最近在看文献时遇到了PMI(Pointwise Mutual Information),中文名叫点互信息. 概念与定义 PMI这个指标通常用来衡量两个事物之间的相关性，比如两个词，其原理很简单，公司如下 PMI(x;y)=log⁡p(x,y)p(x)p(y)=log⁡p(x∣y)p(x)=log⁡p(y∣x)p(y)PMI(x;y) = \log\frac{p(x,y)}{p(x)p(y)} = \log\frac{p(x|y)}{p(x)} = \log\frac{p(y|x)}{p(y)}PMI(.
数据挖掘笔记07-091
08-03
本节笔记主要讲解了数据挖掘中分类算法的两种主要方法：Classification I和Classification II。下面是本节笔记的详细知识点总结： Classification I 在Classification I中，我们讨论了三种常见的分类算法评估方法...
数据挖掘笔记01-031
08-03
综上所述，数据挖掘笔记01-031涵盖了数据挖掘流程中的关键步骤和技术，从数据的获取、清洗、转换到分析，以及如何通过SQL和OLAP工具有效提取和探索信息，最后强调了了解数据特性的重要性，为后续的挖掘工作打下坚实...
数据挖掘笔记11-121
08-03
数据挖掘是一种从海量数据中发现有价值信息的技术，它在各个领域都有着广泛的应用。这篇笔记主要涵盖了数据挖掘中的聚类分析，这是数据挖掘中无监督学习的一种重要方法。 1. 聚类分析简介：聚类分析是将数据集中的...
Java数据结构与算法-笔记-代码-课件-资料
05-17
内容包括: 稀疏数组、单向队列、环形队列、单向链表、双向链表、环形链表、约瑟夫问题、栈、前缀、中缀、后缀表达式、中缀表达式转换为后缀表达式、递归与回溯、迷宫问题、八皇后问题、算法的时间复杂度、冒泡排序、...
算法数据结构学习笔记-C语言.zip
最新发布
06-16
"算法数据结构学习笔记-C语言.zip"这个压缩包很可能是为大学生提供的一份详细的学习资源，涵盖了数据结构的基础知识、常见算法以及相关的实践练习。 首先，我们要理解数据结构的基本概念，如数组、链表、栈、队列、...
点互信息（PMI）和正点互信息（PPMI）
一个小菜鸟的博客
03-29 4183
最近在看代码的时候，发现论文用到了PPMI，索性这里记录一下两个概念： PMI（点互信息） 用来衡量两个事物之间的相关性 公式如下 如何理解？ 在概率论当中，如果说x与y两个变量无关，那么p(x,y)就等于p(x)p(y) 如果说x与y越相关，那么p(x,y)与p(x)p(y)的比值就越大 为了更好理解，这里有一个例子： 分母19是所有的词对共同出现的总次数（1+1+1+1+2+1+1+1+6+4） 这里的例子进行理解的时候，先是红色框的0.32，是根据当前词
点互信息：如何实现虚拟现实与点互信息的融合
禅与计算机程序设计艺术
01-09 1025
1.背景介绍 虚拟现实(Virtual Reality, VR)技术是一种人工智能(Artificial Intelligence, AI)领域的重要应用，它通过为用户提供一个虚拟的环境，使其感觉到自己处于一个不同的空间中。点互信息(Point-to-Point Interconnect, PPI)技术则是计算机网络领域的一个重要概念，它是一种将数据传输从中央处理器(CPU)到其他设备的方法。在...
《计算传播学导论》读书笔记：第三章 情感分析
weixin_44850744的博客
03-30 1682
第三章 情感分析 传播学研究为什么需要情感分析？一个重要的原因是我们希望获知其他人的“意见”。人们的意见是影响行为的重要因素。同时，作为一种社会化动物，人们的意见还影响其他人对事物的看法，继而影响个体和群体做出决策。社会化媒体的兴起，使得研究者有更多机会获取用户关于公共事务、产品服务等反馈。利用计算方法，我们则有可能对用户发布的上述内容进行情感分析获知。 情感分析是一种计算研究。情感分析旨在对大规模文本经过结构化处理后，利用相应算法，自动分析出文本的情感倾向。 第一节 情感分析简介 在自然语言处理领
NLP之【点互信息PMI】——衡量两变量之间的相关性
Yale-曼陀罗
09-27 1937
M = M / expected # Silence distracting warnings about log(0): with np . errstate(divide = 'ignore') : # np.errstate()用于浮点错误处理的上下文管理器。M = np . log(M) M [ np . isinf(M) ] = 0.0 # log(0)=0 # np.isinf()用于按元素测试正无穷或负无穷 if positive : M [ M < 0 ] = 0.0 return M。
02、PMI点互信息 & PPMI（Positive PMI）
weixin_38659482的博客
03-06 1748
在词的向量化表示中，简单的One-Hot会遇到数据稀疏和无法计算词之间距离的问题；分布式频次表示会遇到高频词误导计算结果的问题。基于点互信息的词向量表示方式恰好可以解决上述问题。 PMI点互信息 1. 概念和公式 点互信息（Pointwise Mutual Information，PMI）是信息轮中用来衡量两个事物之间的相关性的一个指标。例如对于词A和词B的点互信息为： 其中，表示词A和词B共同出现的频率，表示词A出现的频率，表示词B出现的频率。 2. 示例 上下文 我 喜欢 游泳。
文本匹配相似度计算---多种距离算法 ，多种相似度计算算法，一看就懂
Western_europe
11-02 4273
常见的距离算法和相似度（相关系数）计算方法 总结摘要 1.常见的距离算法 1.1欧几里得距离（Euclidean Distance） 根据两用户之间共同评价的Item为维度，建立一个多维的空间，那么通过用户对单一维度上的评价Score组成的坐标系X（s1,s2,s3……，si）即可定位该用户在这个多维度空间中的位置，那么任意两个位置之间的距离Distance(X,Y)（即：欧式距离）就能在一定程度上反应了两用户兴趣的相似程度。 欧氏距离越小，两个用户相似度就越大，欧氏距离越大，两个用户相似度就越小。 计算
举例说明信息熵、互信息的计算过程
热门推荐
tangxianyu的博客
04-26 3万+
目录一、 计算公式1、信息熵H(X)2、联合熵H(X,Y)3、互信息I(X,Y)4、条件熵H(X|Y)二、举例说明1、信息熵H(X)2、联合熵H(X,Y)3、互信息I(X,Y)4、条件熵H(X|Y)总结 一、 计算公式 在shannon提出信息论到现在已经有70多年的历史。信息论中常用的概念有信息熵、联合熵、条件熵、互信息等概念。 1、信息熵H(X) 定义：一个离散随机变量X的熵H(X)定义为 H...
信息量和互信息
LiPan的博客
11-12 3817
记录学习分享 理解信息量 https://blog.csdn.net/tsyccnh/article/details/79163834 自信息量： -I(xi) = -log( P(xi) ) 信息熵：(自信息量的期望） H(X) = -∑P(xi) * log( P(xi) ) 条件熵：（条件信息量的期望。前边是xi和yj同时发生的概率，就是求期望） H(X|Y) = -∑P(xi, yj) * log( P(xi | yj) ) 联合熵： H(X, Y) = -∑P(xi, yj) * log.
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值