利用自注意卷积网络处理评论信息

《A Hierarchical Self-attentive Convolution Network for Review Modeling in Recommendation Systems》论文阅读笔记

  1. 背景:
    从评论中学习用户,项目的特征是非常重要的,可以解决数据稀疏性问题,提高推荐性能。

  2. 已有方法:
    (1) 基于CNN的模型从评论中提取特征;
    (2) 基于RNN的方法从评论中学习上下文特征。

  3. 存在问题:
    (1) 关注局部,不能建模文本中的长期依赖关系;
    (2) 不能并行计算,模型训练慢。

  4. 本文:
    提出文本编码器模型,结合自注意网络和卷积网络,建模文本中的全局和局部交互。
    在这里插入图片描述

  5. 具体:
    卷积层获得单词之间的局部交互,自注意层学习文本中的全局交互。构建多层编码器分层获得评论信息。
    5.1 句子编码:
    编码句子(通过单词级的自注意卷积层 + 基于注意的聚合层建模单词的上下文特征)
    (1) 单词嵌入层(将句子中的单词映射为相关的嵌入向量)
    (2) 句子编码(学习序列中每一个元素的上下文特征)
    (3) 聚合(使用注意网络)
    5.2 评论级:
    从句子中学习评论特征
    5.3 用户/项目级:
    使用注意网络从评论中学习用户项目特征

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值