DUMN : Deep User Match Network for Click-Through Rate Prediction

Bryan__

已于 2022-04-01 21:23:11 修改

阅读量1.6k

点赞数

分类专栏：深度学习文章标签：深度学习人工智能 CTR预估

于 2022-03-16 22:27:08 首次发布

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/Bryan__/article/details/123536728

版权

深度学习专栏收录该内容

15 篇文章 4 订阅

订阅专栏

个人公众号,欢迎关注

YouChouNoBB

介绍一篇很有意思的论文,DUMN,论文的亮点在于将item侧的行为序列也加入建模,通过计算user to user 的相似度,来表达target user与target item之间的相似度.

论文地址:Deep User Match Network for Click-Through Rate Prediction | Proceedings of the 44th International ACM SIGIR Conference on Research and Development in Information Retrieval

1.主要介绍其中的4个模块

1)Embedding Layer

2)User Representation Layer

3)User Match Layer

4)Output Layer

2.Embedding Layer,主要介绍一些向量的定义

1)User Behavior:

$I_{u}=[i_{1},i_{2}...i_{Nu}]$ ,其中i为itemid

2)Item Behavior:其中 $u_{i}$ 为userid,并附带一个用户行为序列 $I_{u}$

3) $e_{u}$ : User profile vector,用户基础画像向量

4) $e_{m}$ : Target item vector,目标item向量

5) $e_{c}$ : Context vector,上下午场景向量

6) $x_{u}$ : 用户行为向量,由一系列item的向量组成

7) $z_{m}$ : item行为向量,由一系列用户的行为向量 $x_{u}$ 和画像向量 $e_{u}$ 组成

3. User Representation Layer

1)主要由用户行为向量 $x_{u}=[e_{i}...e_{N}]$ ,用户画像向量 $e_{u}$ ,Target item向量 $e_{m}$ 进行attention计算得到

其中, $e_{i_{k}}$ 为用户交互的item向量, $b_{a}$ 为bias, $V_{a},W_{a}$ 为模型学习的参数矩阵, $\sigma$ 是激活函数sigmoid

$\gamma _{k}$ 为每个item计算得到的权重,进行归一化为 $\mu_{k}$

再将 $\mu_{k}$ 乘回item的向量 $e_{i}$ 得到新的item向量

将新的item向量进行sum pooling得到用户的兴趣表达向量 $\hat{r}_{u}$

最终将兴趣表达向量和画像向量concat得到用户的表达向量

4.User Match Layer

这一层主要是通过当前用户与交互过target item的用户向量,来计算用户与用户之间的相关性,从而可以得到当前用户与target item 之间的相关性表达 ,其中的用户向量都是由上一节的user representation layer计算得到

这里有一个值得讨论的地方

1)交互过target item的用户很多,应该怎么选取论文没有讲清楚,只说了取30个比较合适,在实际应用中,我们是否需要选取一些活跃的用户?

2)用交互过target item的用户来计算target user与target item之间的相似度,是否一定需要用这样的模型结构来解决,直接加item侧对应的特征是否能满足需求?

4.1 Relevance Unit

该模块用来衡量用户与用户之间的相似度,计算方式比较简单,使用余弦相似度

其中 $r_{u_{a}}$ 表示用户 $u_{a}$ 在上一节计算得到的向量表达,不止target user可以通过这个模块计算,所有user都能通过这个模块计算得到用户向量

通过这种方式,我们可以计算target user和target item交互过的所有user的相似度 $\alpha _{k}$

这样我们就能用相似度乘上用户表达向量,sum pooling之后得到一个匹配表达向量 $s_{u}$

同时,我们还可以将所有相似度求和,得到target user与target item的一个匹配度

这个时候再回过来看User Match Layer是不是简单很多了

5.Output Layer

最后输出层就很简单了,匹配表达向量 $s_{u}$ ,用户表达向量 $r_{u}$ ,匹配度 $R_{u}$ ,target item 向量 $e_{m}$ 和上下文向量 $e_{c}$ 进行concat,然后经过2层全连接,最后sigmoid输出

个人公众号,欢迎关注

YouChouNoBB

关注

0
点赞
踩
4

收藏

觉得还不错? 一键收藏
2
评论
DUMN : Deep User Match Network for Click-Through Rate Prediction

介绍一篇很有意思的论文,DUMN,论文的亮点在于将item侧的行为序列也加入建模,通过计算user to user 的相似度,来表达target user与target item之间的相似度.
复制链接

扫一扫

专栏目录

评论 2

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。