深度多兴趣网络,Deep Multi-Interest Network for Click-through Rate Prediction （DMIN）

论文下载地址

目的

       根据用户的历史行为序列建立多兴趣网络模型

整体思路

       首先，利用多头注意力机制表示历史行为item，并借助辅助任务帮助历史行为item表示的学习；之后，再次通过多头注意力机制的每个head表示一个兴趣，将多个兴趣（head）拼接起来；最后，上一步拼接得到的向量和上下文信息、用户属性信息、目标item信息一起拼接输入到mlp中得到结果

实现细节

1. 符号定义：
   $x_u:$ 用户属性信息
   $x_b:$ 用户行为序列， x b = { e 1 , e 2 , . . . , e T } ∈ R T × d m o d e l : x_b=\{e_1,e_2,...,e_T\}\in\mathbb R^{T\times d_{model}}: xb​={ e1​,e2​,...,eT​}∈RT×dmodel​: $T$表示序列的长度，$d_{model}$表示每个item embedding的维度大小
   $x_c:$ 上下文信息
   $x_t:$ 目标item，embedding维度和行为序列维度相同
   $p^{}$