推荐系统论文笔记---Neural News Recommendation with Attentive Multi-View Learning

一、概述

名称:Neural News Recommendation with Attentive Multi-View Learning
作者:Chuhan Wu, Fangzhao Wu, Mingxiao An, Jianqiang Huang, Yongfeng Huang, Xing Xie
文献类型:IJCAI19
年份:2019
源码网站:https://github.com/wuch15/IJCAI2019-NAML 作者主页:https://wuch15.github.io/
整理日期:2020年5月13日

二、主要解决问题

现有的新闻推荐系统通常只根据一种信息如标题来进行推荐。
=>使用多种信息来进行推荐。
=>新闻编码器+用户解码器。
=>新闻编码器是一个基于attention的multi-view学习模型,可以学习多种新闻表示形式(如标题、正文、主题分类等)。用户解码器是利用attention机制根据用户的浏览记录学习用户的表示。

三、解决思路

在这里插入图片描述

1、News Encoder

这一部分的功能是利用各种信息来学习新闻的表示,采用attention机制将各种信息看作是新闻的一个不同视角学习其共同表示。news encoder共有四个组成部分:

(1)title encoder:用于从新闻标题中学习到新闻的表示。

  • 第一层:word embedding:通过 W e ∈ R V × D \mathbf{W}_e \in R^{V \times D} WeRV×D,将新闻标题从单词序列 [ w 1 t , w 2 t , . . . , w M t ] [w^t_1, w^t_2, ..., w^t_M] [w1t,w2t,...,wMt]转换为一个低维语义向量序列 [ e 1 t , e 2 t , . . . , e M t ] [\mathbf{e}^t_1,\mathbf{e}^t_2, ..., \mathbf{e}^t_M] [e1t,e2t,...,eMt],其中M是新闻单词的个数,V是词汇量个数,D是embedding维度。
  • 第二层:CNN:通过CNN来学习单词间上下文的表示,第i个单词的上下文表示为:
    c i t = R e L U ( F t × e ( i − K ) : ( i + K ) t + b t ) \mathbf{c}^t_i = ReLU(\mathbf{F}_t \times \mathbf{e}^t_{(i-K):(i+K)} + \mathbf{b}_t) cit=ReLU(Ft×e(iK):(i+K)t+bt)
    其中, e ( i − K ) : ( i + K ) t \mathbf{e}^t_{(i-K):(i+K)} e(iK):(i+K)t是(i-K)到(i+K)的单词embedding的拼接, F t ∈ R N f × ( 2 K + 1 ) D \mathbf{F}_t \in R^{N_f \times (2K + 1)D} FtRNf×(2K+1)D b t ∈ R N f \mathbf{b}_t \in R^{N_f} btRNf是CNN的核函数和偏移量, N f N_f Nf是CNN的个数,2K+1是他们的窗口大小。
    这一层的输出是单词上下文表示的序列: [ c 1 t , c 2 t , . . . , c M t ] [\mathbf{c}^t_1, \mathbf{c}^t_2, ..., \mathbf{c}^t_M] [c1t,c2t,...,cMt]
  • 第三层:word-level attention network:目的是选择出标题中重要的单词。第i个单词的attention权重 α i t \alpha^t_i αit计算如下:
    a i t = q t T t a n h ( V t × c i t + v t ) α i t = e x p ( a i t ) ∑ j = 1 M e x p ( a j t ) a^t_i = \mathbf{q}^T_t tanh(\mathbf{V}_t \times \mathbf{c}^t_i + \mathbf{v}_t) \\ \alpha^t_i = \frac{exp(a^t_i)}{\sum^M_{j=1} exp(a^t_j)} ait=qtTtanh(Vt×<
  • 2
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值