毕设开源 基于lstm与attention机制的中文情感分析系统

最新推荐文章于 2024-05-01 23:43:30 发布
最新推荐文章于 2024-05-01 23:43:30 发布
阅读量177 收藏 1
点赞数 10
文章标签： rnn java python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yunhai66/article/details/138240388
版权

文章目录

0 前言

基于lstm与attention机制的中文情感分析系统

提示：适合用于课程设计或毕业设计，工作量达标，源码开放

1 简介

在线评论的细粒度情感分析对于深刻理解商家和用户、挖掘用户情感等方面有至关重要的价值，并且在互联网行业有极其广泛的应用，主要用于个性化推荐、智能搜索、产品反馈、业务安全等。本次比赛我们提供了一个高质量的海量数据集，共包含6大类20个细粒度要素的情感倾向。参赛人员需根据标注的细粒度要素的情感倾向建立算法，对用户评论进行情感挖掘，组委将通过计算参赛者提交预测值和场景真实值之间的误差确定预测正确率，评估所提交的预测算法。

2 实验环境

tensorflow 1.8.0-gpu, python-3.5.6

3 模型架构

在这里插入图片描述

4 参数设置

  • 学习率: 3e-4
    学习率尝试过1e-4、3e-4、1e-3等，发现取3e-4时F1值和1e-3差不多，但是取3e-4时模型的最终loss更低。
  • dropout: 1.0
    dropout尝试过0.5、0.75以及1.0，发现取1.0的时候效果最好，0.5的时候效果最差。
  • 句子截断长度：350个词语 句子截断长度取350个词语时，仅5%的评论被截断，其余不足350个词语的评论在词嵌入的时候补0。
  • 词向量维度：300
    词向量维度尝试过250、300、350等，但是对模型的性能提升不大，一般都选用300。（维度过高会延长训练时间）
  • batchSize：32

5 完成情况

单个模型最好的F1指标为：75.04
整体20个模型的综合F1指标为：68

6 最后

**项目分享: ** https://gitee.com/asoonis/htw

yunhai66
关注
  • 10
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
基于LSTM的电影评论感情倾向分析代码，适合初学者研究RNN模型，适合毕业设计参考
03-14
项目：中文电影评论情感分类 如： 输入 评论语句 --> model --> positive/negative 一、数据集 数据集在data目录下，已经打好标签(1--positive, 0--negative)，也已经做好分词 数据集的处理： data_manager.py： 二、模型构建 基于lstm实现：network/mylstm.py 第一部分：词转成词向量 第二部分：2个RNN层 第三部分：用全连接层做分类, 转成概率格式 三、跑训练 train.py、model.py 1. 定义模型 2. 读取数据集 3. 训练：外循环是迭代、内循环批次 前向计算、计算误差、计算梯度、更新权重 4. 保存模型 四、预测 使用训练好的模型，predict_demo.py 1. 加载模型、词汇表 3. 把预测的句子转成词汇表下标表示 4. 送入模型进行前向计算 5. 判断是正向还是负向
毕设分享 基于lstm与attention机制的中文情感分析系统
iuidfds的博客
03-22 272
基于lstm与attention机制的中文情感分析系统提示：适合用于课程设计或毕业设计，工作量达标，源码开放在线评论的细粒度情感分析对于深刻理解商家和用户、挖掘用户情感等方面有至关重要的价值，并且在互联网行业有极其广泛的应用，主要用于个性化推荐、智能搜索、产品反馈、业务安全等。本次比赛我们提供了一个高质量的海量数据集，共包含6大类20个细粒度要素的情感倾向。
一看就懂的LSTM+Attention，此处用softmax求概率
qq_33328642的博客
08-23 2万+
1。 序言 首先呢，我是看这两篇片文章的。但是呢，他们一个写的很笼统，一个是根据Encoder-Decoder和Query(key,value)。第二个讲的太深奥了，绕来绕去，看了两天才知道他的想法。 https://segmentfault.com/a/1190000014574524 这个是讲的很笼统的 https://blog.csdn.net/qq_40027052/article/details/78421155 这个是讲的太深奥的。 本文 的一些基础知识还是基于第二个博客展开。但是我通
多维时序 | MATLAB实现Attention-LSTM(注意力机制长短期记忆神经网络)多输入单输出
关注并私信文章链接，获取对应文章源码和数据，机器学习之心的博客。
09-27 1万+
多维时序 | MATLAB实现Attention-LSTM(注意力机制长短期记忆神经网络)多输入单输出 目录回归预测 | MATLAB实现Attention-LSTM(注意力机制长短期记忆神经网络)多输入单输出基本介绍模型背景 基本介绍 本次运行测试环境MATLAB2020b； 文章针对LSTM 存在的局限性，提出了将Attention机制结合LSTM 神经网络的预测模型。采用多输入单输出回归预测，再将attention 机制与LSTM 结合作为预测模型，使预测模型增强了对关键时间序列的注意力。 模型背
基于Attention机制的BiLSTM语音情感识别研究与web系统实现
05-27
Attention与BiLSTM模型首先Attention机制增强上下文语义信息，并获取更深层次特征，最后通过Softmax进行回归，完成所属语音情感的预测。 2.系统为用Flask搭建网页框架的语音识别系统界面； 对于提到的语音情感识别...
基于 LSTM-Attention 的中文新闻文本分类
12-14
引入Attention 机制，对 LSTM 模型进行改进，设计了LSTM-Attention 模型。 实验环境：开python3.6.5、tensorflow==1.12、keras==2.2.4 本文的实验数据集来源于搜狗实验室中的搜狐新闻 数据，从中提取出用于训练中文...
基于LSTM网络与自注意力机制对中文评论进行细粒度情感分析
02-06
基于LSTM网络与自注意力机制对中文评论进行细粒度情感分析 成绩 单个模型最好的F1指标为：75.04 整体20个模型的综合F1指标为：68 数据集 数据集由比赛平台提供。包含105000条训练样本以及15000条测试样本。 关于...
Python实现基于LSTM的中文评论情感分析.zip
07-07
本文使用Keras框架搭建对于中文商品评论的情感分析模型。训练 2 个 epoch 后在测试集上的准确率为 90.42%。 preprocess.py 数据预处理 models.py 模型定义 train.py 训练模型 predict.py 模型推理 对于文本的预处理...
深度学习(十一)-基于LSTM的情感分析
未名湖畔的落叶
05-25 5612
  很久时间没有更新博客了，这里我们一起回顾一下前面学习的深度学习的基本知识，然后进行一次实战分析。循环神经网络 (RNNRNNRNN) 目前是自然语言处理中应用最为火热的一种神经网络，当然前提是不算上 GoogleGoogleGoogle 新开源的 BERTBERTBERT ，BERTBERTBERT 相对于 RNNRNNRNN 准确率有很大提升，但是由于训练时间过长等原因，还没有大面积普及。 ...
论文研究-基于深层注意力的LSTM的特定主题情感分析.pdf
07-22
目前特定主题情感分析任务中，传统的基于注意力的深度学习模型缺乏对主题特征和情感信息的有效关注。针对该问题，构建了融合主题特征的深层注意力的LSTM模型（deeper attention LSTM with aspect embedding，AE-DATT-LSTM），通过共享权重的双向LSTM将主题词向量和文本词向量进行训练，得到主题特征和文本特征进行特征融合；经过深层注意力机制的处理，由分类器得到相应主题的情感分类结果。在SemEval-2014 task4和SemEval-2017 task4数据集上的实验结果表明，该方法在特定主题情感分析任务中，较之前基于注意力的情感分析模型在准确率和稳定性上有了进一步的提高。主题特征和深层注意力机制的引入，对于基于特定主题的情感分类任务具有重要的意义，为舆情分析、问答系统和文本推理等领域提供了方法的支持。
基于LSTM结构的文本情感分析
12-26
基于LSTM结构的文本情感分析，张玉环，钱江，随着互联网的迅猛发展，越来越多的用户在互联网上发表着自己的评论，这些评论中包含着很多有价值的信息，而这些对于厂家进一步了
毕业设计——基于循环神经网络（LSTM）的社交媒体用户情感倾向分析及检测系统（数据集采用用户电商评论+源码+模型+可视化界面）
最新发布
白话机器学习
05-01 1024
随着社交媒体的普及和互联网技术的飞速发展，人们越来越倾向于在社交媒体平台上表达自己的观点和情感。该系统能够有效地分析社交媒体用户的情感倾向，为企业决策、舆情分析、品牌管理等提供有力的支持。未来，可以进一步探索LSTM与其他深度学习技术的结合，如注意力机制、Transformer等，以提高系统的性能和泛化能力。LSTM是一种特殊的RNN，它通过引入记忆细胞、输入门、输出门和遗忘门的概念，解决了传统RNN在处理长序列数据时存在的梯度消失和梯度爆炸问题。在训练过程中，需要使用已标注的情感倾向数据集进行模型训练。
详解自注意力机制及其在LSTM中的应用
weixin_42419611的博客
07-01 3万+
详解自注意力机制及其在LSTM中的应用 注意力机制（Attention Mechanism）最早出现在上世纪90年代，应用于计算机视觉领域。2014年，谷歌Mnih V等人[1] 在图像分类中将注意力机制融合至RNN中，取得了令人瞩目的成绩，随后注意力机制也开始在深度学习领域受到广泛关注，在自然语言处理领域，Bahdanau等人[2] 将注意力机制融合至编码-解码器中，在翻译任务取得不错的效果。而真正让注意力机制大火的是2017年，谷歌提出的Transformer[3]，它提出了自注意力机制（self-At
时间序列预测实战(二十)自研注意力机制Attention-LSTM进行多元预测（结果可视化，自研结构）
Snu77的博客
11-27 6630
本文给大家带来的是我利用我自研的结构进行Attention-LSTM进行时间序列预测，该结构是我专门为新手和刚入门的读者设计，包括结果可视化、支持单元预测、多元预测、模型拟合效果检测、预测未知数据、以及滚动长期预测，大家不仅可以用来学习，用该结构可以发表论文我也觉得是可以并且不需要引用本篇博客。下面我们来介绍一下Attention-LSTM模型，这里提到的Attention是我自研的注意力机制(不是很复杂是一种比较简单的注意力机制但是我觉得效果还比较好)，LSTM模型大家都很收悉了，其通过门控单元机制，能够
基于LSTM的情感分析【附源码】
阿齐Archie
12-20 1万+
本文主要介绍了情感分析的重要性和基于LSTM的情感分析方法，并讨论了相关的技术，包括数据集和预处理、LSTM模型、句子长度的累积分布函数（CDF）、模型训练、模型预测以及句子长度的统计和可视化。通过实验结果验证了基于LSTM的情感分析方法的有效性，并展示了句子长度的分布和累积分布情况。
NLP学习（十三）-NLP实战之LSTM三分类文本情感分析-tensorflow2+Python3
qq_30868737的博客
09-20 8874
背景介绍 文本情感分析作为NLP的常见任务，具有很高的实际应用价值。本文将采用LSTM模型，训练一个能够识别文本postive, neutral, negative三种情感的分类器。 本文的目的是快速熟悉LSTM做情感分析任务，所以本文提到的只是一个baseline，并在最后分析了其优劣。对于真正的文本情感分析，在本文提到的模型之上，还可以做很多工作，以后有空的话，笔者可以再做优化。 理论介绍 RNN应用场景 RNN相对于传统的神经网络，它允许我们对向量序列进行操作：输入序列、输出序列、或大部分的输入输出序
基于 attention 机制的 LSTM 神经网络 超短期负荷预测方法学习记录
pengxiang1998的博客
09-12 3704
在标准LSTM体系结构中，有1个记忆单元状态和3个门，即更新门Γu、遗忘门Γf和输出门Γo，标准LSTM的体系结构如图2所示。采用x 1, x 2, …, x T表示LSTM网络中的典型输入序列，则其中x {t}表示时间t时的输入特征。为了实现重要信息长时间存储，在LSTM的整个周期内设立并维护一个记忆单元c。根据前一时间的激活单元a 和当前时间的输入x ，通过3个门确定更新、维护或遗忘内部状态向量的具体元素。
使用Keras实现 基于注意力机制（Attention）的 LSTM 时间序列预测
热门推荐
小EZ的博客
01-06 6万+
时隔半年多，毕设男孩终于重操旧业，回到了 LSTM进行时间序列预测和异常检测的路上。 如果有阅读过我之前的博客，可以发现使用 LSTM作单类的时间序列异常检测也是基于对于时间序列的预测进行 登堂入室LSTM：使用LSTM进行简单的时间序列异常检测 本次我们要进行的是 使用 注意力机制 + LSTM 进行时间序列预测，项目地址为Keras Attention Mechanism 首先我们把它git...
Attention-LSTM模型的python实现
m0_49558200的博客
05-27 1万+
1.模型结构 Attention-LSTM模型分为输入层、LSTM 层、Attention层、全连接层、输出层五层。LSTM 层的作用是实现高层次特征学习；Attention 层的作用是突出关键信息；全连接层的作用是进行局部特征整合，实现最终的预测。 这里解决的问题是：使用Attention-LSTM模型进行数据的预测。完整的代码在文末展示。 1.输入层 输入层是全部特征进行归一化之后的序列。归一化的目的是保证特征处于相似的尺度上，有利于加快梯...
基于LSTM的电影评论情感分析系统设计
01-19
基于LSTM的电影评论情感分析系统设计如下： 1. 创建基础的LSTM cell： ```python import tensorflow as tf # 定义LSTM cell的大小 lstm_size = 128 # 创建LSTM cell lstm_cell = tf.contrib.rnn.BasicLSTMCell(lstm_size) ``` 2. 使用embedding层传入LSTM cells： ```python # 定义输入数据的维度 input_dim = 10000 # 定义embedding层的大小 embedding_size = 128 # 创建embedding层 embedding = tf.Variable(tf.random_uniform([input_dim, embedding_size], -1, 1)) # 将输入数据映射到embedding层 input_data = tf.placeholder(tf.int32, [None, sequence_length]) embedded_data = tf.nn.embedding_lookup(embedding, input_data) # 将embedded_data传入LSTM cells outputs, state = tf.nn.dynamic_rnn(lstm_cell, embedded_data, dtype=tf.float32) ``` 3. 添加输出层： ```python # 定义输出层的大小 output_size = 1 # 创建输出层的权重和偏置 weights = tf.Variable(tf.truncated_normal([lstm_size, output_size])) bias = tf.Variable(tf.constant(0.1, shape=[output_size])) # 将LSTM的输出传入输出层 logits = tf.matmul(outputs[:, -1, :], weights) + bias # 使用sigmoid激活函数预测情感 predictions = tf.sigmoid(logits) ``` 以上是基于LSTM的电影评论情感分析系统的设计。系统通过将评论文本经过embedding层传入LSTM cells，然后将LSTM的输出传入输出层进行情感预测。输出层使用sigmoid激活函数来判断评论的情感是积极的还是消极的。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值