task1 情感分析baseline

这篇博客介绍了使用PyTorch和torchtext构建RNN进行情感分析的基础流程,包括数据预处理、构建模型、训练模型和评估。数据集为IMDB,模型基于RNN,预处理涉及词汇表构建、训练集验证集划分,训练过程涵盖损失函数、优化器和准确率计算。
摘要由CSDN通过智能技术生成

该文档为datawhale情感分析组队学习的笔记
Github地址:team-learning-nlp/Emotional_Analysis at master · datawhalechina/team-learning-nlp (github.com)

  • 这部分用pytorch和torchtext构造一个简单的机器学习模型来预测句子的情绪(即句子表达的情绪是正面还是负面)
  • 使用的数据集:IMDB
  • 该baseline使用RNN

RNN

由于循环神经网络(RNN) 通常在序列模型上表现良好,所以在第一节中,我们将选择RNN作为我们的baseline。RNN每次的输入为一个单词序列: X = { x 1 , . . . , x T } X=\{x_1, ..., x_T\} X={ x1,...,xT},并为每个输入单词输出一个隐向量: h h h

我们通过输入当前单词的 x t x_t xt,和上一个隐藏层状态 h t − 1 h_{t-1} ht1,来生成下一个隐藏层状态 h t h_t ht,用公式表示为:
h t = RNN ( x t , h t − 1 ) h_t = \text{RNN}(x_t, h_{t-1}) ht=RNN(xt,ht1)

一旦当我们获得了最后一个隐藏层的输出: h T h_T hT(通过输入最后一个单词序列 x T x_T xT和前一个隐藏层状态 h T − 1 h_{T-1} hT1获得),就可以将它输入一个线性层<

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值