多任务学习,Unifying Task-Oriented Knowledge Graph Learning and Recommendation
解决问题
联合知识图谱和图谱补全
符号
模型
推荐模块
为了获得用户点击概率
y
^
u
,
v
\hat y_{u,v}
y^u,v,定义向量
u
u
u和
v
v
v,最后结果由激活函数得到。由此可以得到top-N推荐
y
^
u
v
=
σ
(
u
T
v
)
\hat y_{uv}=\sigma(u^Tv)
y^uv=σ(uTv)
-
用户偏好树的构建、
知识图谱提供了大量的实体和负责的连接关系,但是对于特定的用户,存在并不是所有实体都有着相同的偏好。这就是噪音,为此构建偏好树。
偏好树由实体和点击历史以及在图谱中的连接关系的实体组成,如图2
通用的,对于用户 u u u,他是根节点,他的点击历史为 S = { v u , 1 , v u , 2 . . . v u , ∣ s ∣ } S=\left\{v_{u,1},v_{u,2}...v_{u,|s|}\right\} S={vu,1,vu,2...vu,∣s∣},所以第二层实体形成的集合实体为
之后根据图谱的连接关系,继续迭代得到实体,这样树的k层集合就如下
最后移除根节点。树的高度为H-1
2.实体表示学习
实体在不同关系中会表现不同的特征,为此使用TransR得到实体表示。
-
层表示学习(layer)
使用scaled dot-product attention。
如果 ∣ L u k ∣ ≥ N |L_u^k| \geq N ∣Luk∣≥N,就随机选择N个连接。
-
用户表示(user)
采用注意力机制
损失函数如下
补全模块
三个子问题,分别是确实头,关系,尾实体。进行top-N候选集预测
使用TransR,不详述了。需要负采样,为此根据三个子问题设计采样。关系预测在原先的式中并未进行负采样。所以该子问题性能受限,
transR的负采样进行重新设计,上述损失函数重新设计,下式为关系的随机采样
联合训练
重写补全的损失函数
联合损失函数如下