异质图神经网络及其在电商领域中的应用

今天，我们首先将介绍北邮计算机学院教授石川的《异质图神经网络及其在电商中的应用》。

本次讲座中，石川针对图神经网络研究的重要挑战——传统采用的是同质图数据，无法满足业界交互系统对异质图的实际需求，介绍了自己对于解决方案的一系列相关研究工作，包括：异质信息网络的表示学习、浅层模型、深层模型、元路径的选择等关键技术以及它们在电子商务问题中的应用等。

1、异质信息网络的表示学习

作为机器学习和数据挖掘的基础，表示学习加上优化目标和优化算法就构成了机器学习；好的表示对成功的机器学习和数据挖掘有着重要的作用。之前的表示学习主要是基于手工提取特征来实现的，近些年来，由于深度学习的兴起，端到端的表示学习方法可以抽取层次化的特征表示。网络结构的数据在实际应用中非常普遍，学习网络结构的表示是近些年来的研究热点。

目前很多图神经网络主要是基于同质信息网络，同质信息网络只有一种类型的节点和边；在实际应用中，会存在大量由不同节点和边构成的交互系统，例如文献数据、电影数据、以及社交网络知识图谱等，在这些网络中，不同类型的对象相互交互。不同类型的对象性质不同，交互关系的特性不同会导致很大差异的分析，所以在异质网络中，需要考虑不同类型的对象交互关系对结果的影响。

在异质信息网络中，网络模式是对一个网络的元级描述，刻画了网络中包含了不同类型的对象和不同类型的关系。例如在图1的网络实例中，描述了作者撰写论文，论文发表在会议上；这个网络实例就包含三类对象：作者、论文和会议，以及他们之间的相互交互关系。

下图为异质信息网络实例

元路径[1]是异质信息网络中另外一个很重要的概念。简而言之，元路径就是连接两个对象的一个关系序列。如图2 所示，连接两个author可以有不同的元路径。例如：author->paper->author，描述的是两个作者之间的合作关系；还可以有author->paper->venue->paper->author，这条元路径描述的是两个作者参加同一个会议这么一个关系。元路径包含丰富的语意，抽取网络中的一些子结构，因此被广泛应用于异质网络分析中。基于这两个概念的基础上，也提出了很多其他一些概念，例如元图，元结构，以及有约束的元路径等一些概念，它可以更细致的描述网络里面的属性信息。

下图为异质信息网络中的元路径

石川指出，异质信息网络表示学习目前存在一些挑战，例如如何解决异质性、如何融合信息以及捕捉丰富的语义信息等，主要的解决方案有经典浅层模型和深度模型两个方面。

2、浅层模型

在同质网络中，有一些很经典的浅层模型，例如DeepWalk、LINE等一系列方法，这些方法的核心思想是基于随机游走产生一个节点序列，然后类比于自然语言处理单词序列的方法，通过skip-gram的方法来学习网络表示。

在异质网络中也是采用类似的思路，为了高效的随机游走，一般是采用元路径的随机游走方式，元路径在游走的过程中可以把节点类型信息和边类型信息固定下来。图3 为基于元路径随机游走的范式，给以一个元路径，如果是按照给定元路径游走的话，转移概率就是指定类型节点的邻居数目分之一，不按照元路径游走的话，转移概率就是0。

下图为基于元路径的随机游走

针对元路径的随机游走，然后采用skim-gram来进行目标优化，metapath