【网络表示学习】metapath2vec

题目：metapath2vec: Scalable Representation Learning for Heterogeneous Networks

作者：Yuxiao Dong, Nitesh V. Chawla and Ananthram Swami

来源：KDD 2017

源码：https://ericdongyx.github.io/metapath2vec/m2v.html

当前的许多网络表示学习方法主要是针对同质网络的。本文提出一种的专门针对异质图的网络表示学习方法，能够同时捕捉不同类型节点之间的语义和结构联系。metapath2vec使用meta-path-based随机游走构建节点的异质邻居，然后使用一个异质skip-gram训练模型，建模结构上和语义上相近的节点。metapath2vec++进一步提出一种异质负采样方法，准确高效地预测一个节点的异质邻居。

核心问题

1. 在异质图中如何有效地在不同类型的节点中保留上下文
2. 随机游走是否可以用于异质图
3. skip-gram是否可以用于异质图

模型

定义一个异质网络$G=(V,E,T)$，其中每个节点和边的类型由映射函数定义 $\varphi (v):V\to T_V$ ， $\phi (e):E\to T_E$ 。$T_V$和 $T_E$分别代表相应类型的集合。$\left|T_V\right|+\left|T_E\right|>2$ （不只一种类型）。

Heterogeneous Skip-Gram

对于异质图$G=(V,E,T)$，$|T_V|>1$ ，metapath2vec通过skip-gram模型学习网络表示。给定一节点$v$，最大化其异质上下文 $N_t(v)$，$t\in T_V$（节点 $v$的$t^{th}$类型邻居节点）的概率：
$$\arg \underset{\theta }{\max }\sum _{v\in V}\sum _{t\in T_V}\sum _{c_t\in N_t(v)}\log p\left(c_t|v;\theta \right)\text{\hspace{1em}(2)}$$
条件概率定义为softmax函数
p ( c t ∣ v ; θ ) = e X c l ⋅ X v ∑ u ∈ V e X u ⋅ X v p\left(c_{t} | v ; \theta\right)=\frac{e^{X_{c_{l}} \cdot X_{v}}}{\sum_{u \in V} e^{X_{u} \cdot X_{v}}} p(ct​∣v;θ)=∑u∈V​eXu​⋅Xv​eX