论文笔记-多任务学习(rec-kgc)

多任务学习，Unifying Task-Oriented Knowledge Graph Learning and Recommendation

论文地址

解决问题

联合知识图谱和图谱补全

符号

模型

推荐模块

为了获得用户点击概率${\hat{y}}_{u,v}$，定义向量$u$和$v$，最后结果由激活函数得到。由此可以得到top-N推荐
$${\hat{y}}_{uv}=\sigma (u^{T}v)$$

1. 用户偏好树的构建、

   知识图谱提供了大量的实体和负责的连接关系，但是对于特定的用户，存在并不是所有实体都有着相同的偏好。这就是噪音，为此构建偏好树。

   偏好树由实体和点击历史以及在图谱中的连接关系的实体组成，如图2

通用的，对于用户$u$,他是根节点，他的点击历史为$$S=\left\{v_{u,1},v_{u,2}...v_{u,|s|}\right\}$$,所以第二层实体形成的集合实体为

之后根据图谱的连接关系，继续迭代得到实体，这样树的k层集合就如下

最后移除根节点。树的高度为H-1

2.实体表示学习

实体在不同关系中会表现不同的特征，为此使用TransR得到实体表示。

3. 层表示学习（layer）

   使用scaled dot-product attention。

如果$|L_u^k|\ge N$,就随机选择N个连接。

4. 用户表示（user）

   采用注意力机制

损失函数如下

补全模块

三个子问题，分别是确实头，关系，尾实体。进行top-N候选集预测

使用TransR,不详述了。需要负采样，为此根据三个子问题设计采样。关系预测在原先的式中并未进行负采样。所以该子问题性能受限，

transR的负采样进行重新设计，上述损失函数重新设计，下式为关系的随机采样

联合训练

重写补全的损失函数

联合损失函数如下