《BiLSTM with Multi-Polarity Orthogonal Attention for Implicit Sentiment Analysis》论文阅读笔记

最新推荐文章于 2024-05-21 00:51:35 发布
VIP文章 最新推荐文章于 2024-05-21 00:51:35 发布
阅读量1.3k 收藏 9
点赞数
文章标签： 自然语言处理 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_39036944/article/details/105563863
版权

文章名:《BiLSTM with Multi-Polarity Orthogonal Attention for Implicit Sentiment Analysis》

作者 Jiyao Wei a,1, Jian Liaoa,1, Zhenfei Yanga, Suge Wanga,b,∗, Qiang Zhaoa

年份 2019

1 Introduction

目前文本情感分析多分析带有表现明显情感极性词语的文本，而隐性表达作者情感的文本分析相关研究很少。

2 Related Work

常用的注意机制可以根据注意的排列位置分为全局机制和局部机制， 它们也可分为来源目标注意、自我注意和多头注意。 这些研究启发了作者引入情感关注，它为捕捉情感极性之间的特征差异嵌入了额外的信息。

3. BiLSTM with multi-polarity orthogonal attention model

3.1. Framework of the proposed model

 该模型包含6层：输入层、预训练层、BiLSTM层、多极注意层、fully connected层和输出层。

（1）Input layer

采用one-hot编码为每个词生成索引嵌入向量，（加粗字体表示词嵌入或者矩阵，|V|表示全集，下同）将索引嵌入喂入预处理。

（2）pretraining layer

预处理层分成静态层和动态层。

静态层生成共享查找表。 它采用预先训练的词嵌入资源作为初始化，编码更多的初始语义信息，其中de是词嵌入的维数。最后的词嵌入表示为Wt：。在动态层中，根据上下文信息动态编码词嵌入，能够更准确表达词信息，公式为

最低0.47元/天 解锁文章
鱼子酱酱
关注
  • 0
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
情绪分析：使用在线客户评论预测产品评论的评分-研究论文
06-10
在当今时代，互联网上的大部分数据都是原始文本的形式。 这些数据金矿是无价的，因为它包含许多可以使用自然语言处理或文本分析技术提取的潜在信息。 这些基于文本的文档中的数据揭示了用户对特定主题的情绪和意见。 在本文中，来自 Amazon.com 的客户评论经过预处理，使用我们提出的框架进行分析，并研究了这些文本评论如何证明星级评分的合理性。 来自文本评论的特征用于预测其相应的星级。 为了实现它，预测问题被转化为一个多类分类任务，将评论分类为与其星级相对应的五个类别之一。 评估和比较使用的各种分类器的性能。 对真实数据集的评估结果表明，逻辑回归分类器优于其他模型。 我们的研究还表明，在各种因素中，评论的极性和评论的长度对其评级有显着影响。
基于BiLSTM_ATT_CNN中文专利文本分类
05-06
随着大数据和人工智能的发展, 将人工处理专利的方式转换为自动化处理成为可能. 本文结合卷积神经网络(CNN)提取局部特征和双向长短记忆神经网络(BiLSTM)序列化提取全局特征的优势, 在BiLSTM隐藏层引入注意力机制(Attention机制), 提出了针对中文专利文本数据的BiLSTM_ATT_CNN组合模型. 通过设计多组对比实验, 验证了BiLSTM_ATT_CNN组合模型提升了中文专利文本分类的准确率.
SMP2019_ECISA.rar
06-28
SMP2019_ECISA.rar
The Bag-of-Opinions Method for Car Review Sentiment Polarity Classification
02-09
~本文针对网络评论倾向分级问题，提出了一种基于观点袋模型和语言学规则的多级情感分类方法。通过分析句子中的词性搭配关系，设计了12种抽取特征-观点搭配模式，并对存在问题给出了解决策略。依据汉语用词特点和词汇在汽车领域的特殊用法，提出搭配四元组的情感倾向极性值计算方法。在此基础上，利用获取的搭配四元组及其情感倾向极性，建立文本的向量化表示，并构造了权重计算公式。最后，利用文本余弦相似度计算方法实现对评论文本的五级情感极性分类。通过在COAE2012任务3的汽车数据集上进行的测试，取得了较好的分类结果。
【LSTM回归预测】基于贝叶斯优化多头注意力机制的卷积神经网络结合双向长短记忆网络BO-CNN-BiLSTM-Multihead-Attention实现数据回归预测附Matlab代码
k8291121的博客
12-28 1711
【LSTM回归预测】基于贝叶斯优化多头注意力机制的卷积神经网络结合双向长短记忆网络BO-CNN-BiLSTM-Multihead-Attention实现数据回归预测附Matlab代码
情绪分析数据集
02-16
情绪分析数据集 Esterepositóriocontém数据集可用于分类和情感分析。
用tensorflow搭建BiLSTM+Attention构成的seq2seq模型
xxs23sxx的博客
11-23 460
用Attention层连接decoder_outputs和encoder_outputs,在attention中，通常将decoder_outputs参数放在前面，如此attention会更关注decoder_outputs。模型的效果并不是很好，accuracy只有20%不到，大多数测试中翻译也是错误的。估计是数据处理优化没做好，同时优化方法不够。关于BiLSTM的构建，只能应用于encoder编码器上，因为decoder解码器不能反向。2.类似这篇博客中的嵌套方法。来自于LSTM构建的模型。
深度学习笔记（5）——pytorch实现Att-BiLSTM
m0_46275020的博客
08-25 1661
模型图：LSTM层：Attention层M=tanh(H)α=softmax(ωT∗M)r=HαTh∗=tanh(r)M=tanh(H)α=softmax(ωT∗M)r=HαTh∗=tanh(r)其中H为LSTM输出的结果，对应于nn.lstm()输出的第一个结果。
实体关系抽取：BiLSTM + Attention (含代码+详细注释)
热门推荐
Unyielding will
10-26 2万+
数据集介绍 本文采用的是一份中文数据集（数据质量不高，我们主要目的是展现实体关系抽取过程，掌握方法后可以用于高质量数据集上） 每个样例格式如下： 实体1 实体2 实体间关系 句子xxxxxxxxxxxxxxxxx 示例： 郭全宝 郭启儒 合作 、郭全宝）、我是家长（侯宝林、郭启儒）、武松打虎（侯宝林、郭全宝）、戏剧杂谈（侯宝林、郭启儒）、 数据集共1...
rt-polarity.pos.zip_CNN训练数据集_RNN_RNN分类_rnn 分类_rt-polarity.pos
07-14
用于情感分析的影评数据集 可作为cnn/ rnn 分类训练数据
Chinese Micro Blog Sentiment Analysis Based on Semisupervised Learning
02-09
The Support Vector Machine (SVM) method is used in subjective and objective classification and polarity classification. Our method can extend the size of seed samples by learning ...
twitter-sentiment-info:搜索推文以及标有极性的数据
03-21
推文情感贴标机 搜索推文并以CSV格式下载标有极性的数据 在查看实时 开发指南 创建一个virtualenv。 virtualenv venv 激活venv。 source venv/bin/activate 安装要求。 pip install -r requirements.txt ...
BiLSTM+Attention代码实现（pytorch）
weixin_47915380的博客
04-05 3143
import torch import torch.nn as nn class BiLSTM_Attention(nn.Module): def __init__(self): super(BiLSTM_Attention, self).__init__() self.embedding = nn.Embedding(vocab_size, embedding_dim) self.lstm = nn.LSTM(embedding_dim, n_h...
Att-BiLSTM关系分类（2015）论文阅读笔记
zyk9916的博客
06-16 1517
Attention-Based Bidirectional Long Short-Term Memory Networks for Relation Classification（Att-BiLSTM关系分类，2015）论文阅读笔记 一、背景 SVM（2010） CNN（2014） RNN（Zhang and Wang，2015）–长程依赖问题 SDP-LSTM（2015）–比较复杂 BLSTM（Zhang，2015）–使用了很多复杂特征 本文的贡献： 提出了基于注意力机制的BiLSTM网络用于关系分类，它
NLP 中 Bilstm-attentio的使用
weixin_39206667的博客
03-31 1244
NLP 中 Bilstm-attentio的使用bilstm-attention 理解bilstm-attention的作用bilstm-attention 编码实现` bilstm-attention 理解 bilstm-attention的作用 1：输入空间和输出空间的理解 在NLP的任务框架中，最基本的流程是 初步编码（比如one-hot vector,或者预训练词向量）作为输入，比如一句话进来 我开心，如果使用在分类模型中，我们就需要融合 我开心 这三个字，我们将这三个字 映射成向量，比如
NLP ----- Bert with Sentiment Analysis
儒雅，勤思，博学
05-25 1077
Bert模型可谓是在2018年NLP领域的大杀器，它的刷新了各种数据集上的NLP任务新高度，好像预示着人类在让机器理解自然语言的道路上又近了一步。google research方面也公布出了模型和代码，让该模型走近千家万户。作为模型的搬运工，自然不能错过把这样的神器收入囊中的机会。官方也给出了pretraining和fine-tuning的代码，但仅仅是调试官方的代码还是不能将模型很...
【自然语言处理】文本分类模型_BiLSTM+Attention_TensorFlow实现
bqw的博客
04-16 1万+
一、模型结构 1. Embedding层：获得词的分布式表示； 2. BiLSTM层：将词向量依次送入到双向LSTM中并得到每个cell的输出outputs; 3. Attention层： 令hih_ihi​表示由BiLSTM产生的包含单词wiw_iwi​上下文信息的隐藏层向量； 通过全连接层将hih_ihi​转换为uiu_iui​：ui=tanh(Whi+b)u_i=tanh(Wh_i+b)ui...
大语言模型实战——搭建纯本地迷你版RAG
最新发布
golfxiao的专栏
05-21 923
question: 用户真实提问的问题。context: 基于用户问题所检索出的上下文文档片段，作为语言模板在回答问题时主要参考的内容。RAG_PROMPT_TEMPALTE = """先对上下文进行内容总结,再使用上下文来回答用户的问题。如果你不知道答案，就说你不知道。总是使用中文回答。问题: {question}可参考的上下文：···{context}···如果给定的上下文无法让你做出回答，请回答数据库中没有这个内容，你不知道。有用的回答:"""
rt-polarity.pos
08-06
rt-polarity.pos是一个文本分类数据集，由斯坦福大学构建。该数据集包含一组带有情感标签的电影评论。其中，rt-polarity.pos表示其中一部分电影评论的正面情感。该数据集可用于情感分析、文本分类等任务。 rt-polarity.pos数据集中的评论是经过标注的，每个评论都被标记为正面情感。这意味着这些评论中的文本内容普遍带有积极、乐观的情绪。这些评论可以被用作训练机器学习模型，以便这些模型能够自动识别其他文本中的正面情感。 对于研究者和开发人员来说，rt-polarity.pos数据集是一个有价值的资源。通过使用该数据集，他们可以研究人们对电影的积极评价，并进行情感分析方面的实验。在推荐系统、情感识别等领域，这个数据集都可以发挥重要作用。 然而，需要注意的是，rt-polarity.pos数据集只包含了正面情感的评论，缺乏负面情感的样本。这可能会导致训练出来的模型在负面情感的识别上存在一定的局限性。所以，在使用这个数据集时，要注意结合其他数据集或采取一些技术手段来克服这个限制。 总的来说，rt-polarity.pos数据集是一个有关电影评论的文本分类数据集。适用于情感分析、文本分类等任务，可以用于研究人们的积极评价、训练机器学习模型等方面。同时，也需要留意数据集中缺乏负面情感的样本，可能需要结合其他数据集或采取其他手段来弥补这一不足。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值