KGCN 2019 (WWW) Knowledge Graph Convolutional Networks for Recommender Systems

基于KG推荐的优点

• KG中项目之间的丰富语义关联可以帮助探索用户物品间潜在的联系并提高结果的准确性。
• KG中的各种关系有助于合理地扩展用户的兴趣并增加推荐项目的多样性
• KG连接了用户的历史喜欢和推荐的商品，从而为推荐系统带来了可解释性。

本文的探索

本文主要的目标是利用知识图谱中高阶结构和语义信息提高推荐的准确性，并提供推荐合理的可解释性。受到了GCN的启发，对于知识图谱中的实体，利用其邻居信息和偏差计算该实体的表示，由于不同的邻居对实体的影响力不同，需要分配不同的权重来刻画邻居对实体产生的语义结果。由于一个实体的邻居众多，因此随机采样固定大小的邻居数量作为感受野；给定实体也可以通过多跳关系扩展到高阶实体，获取高阶实体的依赖关系。

基本架构

数学定义

用户集合： U = { u 1 , u 2 , … , u M } \mathcal{U}=\left\{u_{1}, u_{2}, \ldots, u_{M}\right\} U={u1​,u2​,…,uM​}
物品集合： V = { v 1 , v 2 , … , v N } V=\left\{v_{1}, v_{2}, \ldots, v_{N}\right\} V={v1​,v2​,…,vN​}
用户物品交互矩阵：$\mathrm{Y}\in {\mathbb{R}}^{M\times N}$
知识图谱：$\mathcal{G}$
预测：${\hat{y}}_{uv}=\mathcal{F}(u,v\mid \Theta ,\mathbf{Y},\mathcal{G})$

KGCN层

实体的one-order邻域表示

KGCN来捕获知识图中实体之间的高阶结构邻近性。
$\mathcal{N}(v)$：与实体v直接相连的实体集合。
$r_{e_i},e_j$：实体$e_i$和实体$e_j$之间的关系。
$g:{\mathbb{R}}^d\times {\mathbb{R}}^d\to \mathbb{R}$：计算用户和关系之间的得分刻画关系对用户的重要程度：${\pi }_r^u=g(\mathbf{u},\mathbf{r})$其中$\mathbf{u}\in {\mathbb{R}}^d$ and $\mathbf{r}\in {\mathbb{R}}^d$
为了刻画物品$v$的拓扑邻近结构，我们计算$v$的邻域的线性组合：
$${\mathbf{v}}_{\mathcal{N}(v)}^u=\sum _{e\in \mathcal{N}(v)}{\tilde{\pi }}_{r_{v,e}}^u\mathbf{e}$$
$${\tilde{\pi }}_{r_{v,e}}^u=\frac{\exp \left({\pi }_{r_{v,e}}^u\right)}{{\sum }_{e\in \mathcal{N}(v)}\exp \left({\pi }_{r_{v,e}}^u\right)}$$
由于一个实体的邻域大小差异较大，为了保持统一性进行约束，我们用${\mathbf{v}}_{\mathcal{S}(v)}^u$来表示实体$v$的邻域， S ( v ) ≜ { e ∣ e ∼ N ( v ) } \mathcal{S}(v) \triangleq\{e \mid e \sim \mathcal{N}(v)\} S(v)≜{e∣e∼N(v)} and $|\mathcal{S}(v)|=K$规定邻域大小为K,并把$\mathcal{S}(v)$称为感受野，本文K=2。

如图所示，实体${\mathrm{e}}^u[h]$的邻域实体表示为绿色，经过一次迭代，即感受野的深度加深为1，实体${\mathrm{e}}^u[h]$变为${\mathrm{e}}^u[h+1]$。

聚集实体表示和邻域表示

• 相加聚集函数：将两个表示相加，进行非线性转换
  $$ag{g}_{sum}=\sigma \left(\mathbf{W}\cdot \left(\mathbf{v}+{\mathbf{v}}_{\mathcal{S}(v)}^u\right)+\mathbf{b}\right)$$
• 拼接聚集函数：将连个表示连接，进行非线性转换
  $$ag{g}_{\text{concat }}=\sigma \left(\mathbf{W}\cdot \mathrm{concat}\left(\mathbf{v},{\mathbf{v}}_{\mathcal{S}(v)}^u\right)+\mathbf{b}\right)$$
• 邻域聚集函数：直接将邻域表示作为实体的表示
  $$ag{g}_{\text{neighbor }}=\sigma \left(\mathbf{W}\cdot {\mathbf{v}}_{\mathcal{S}(v)}^u+\mathbf{b}\right)$$

算法过程

损失函数

$$\mathcal{L}=\sum _{u\in \mathcal{U}}\left(\sum _{v:y_{uv}=1}\mathcal{J}\left(y_{uv},{\hat{y}}_{uv}\right)-\sum _{i=1}^{T^u}{\mathbb{E}}_{v_i\sim P\left(v_i\right)}\mathcal{J}\left(y_{u{v}_i},{\hat{y}}_{u{v}_i}\right)\right)+\lambda \Vert \mathcal{F}{\Vert }_2^2$$

数据集

由于这三个数据集都是显示交互，因此把他们转为隐示交互。

知识图谱的构建

使用Microsoft Satori为每一个数据集构建知识图谱，首先从知识图谱中国选择置信度大于0.9的子图，然后手机所有有效的电影，图书，音乐的ID,去除具有多个实体匹配或者没有匹配的item，然后用三元组的头匹配item获取子知识图谱

开源代码地址

论文开源

重点

这篇文章和KGAT十分相似。
在本文中，突出强调一个感受野，这个感受野类似于图像CNN中的filter，不同的感受野类比于不同的filter，获取的局部信息不同，如图所示，h代表感受野的深度，在每一个迭代的过程中，感受野不同扩大，从而获取high-order的信息，从而丰富表示。
在KGAT一文中，对于一个实体来说，每次只能从one-order获取信息，但是，由于每一个实体都从one-order（也就是h=1）获取信息，间接的，该实体也会获取到high-order实体的信息，从而丰富表示。

本文未来工作

目前所有的知识图谱都是利用item-end的知识图谱的附加信息，并没有利用user-end的知识图谱，是否可以利用user-end知识图谱或者结合item-end和user-end来提高推荐的准确性。