UDA-GCN的使用目的:
1.为了有效地进行图表示学习,需要探究特征聚合的局部和全局一致性
2.一个注意力机制用于得到不同图每个点的统一性表示
3.为了促进不同图之间的知识迁移,提出一种域自适应模块去优化三个损失函数,分别是源域标签分类损失,域分类器损失以及目标域标签分类器损失
因此提出的模型可以区分源域类别标签、目标域类别标签以及来自于不同域的样本
背景:
目前基于节点的图表示学习都是源自单图,往往忽略分类模型在构建新图的泛化性。这种行为结果是,当我们收集一个新图时,即使这个图与现有图非常接近,但我们依旧需要对图节点重新打上标签,并且针对新任务重建分类器。这种低效的图数据学习框架催生了可迁移模型,即使得知识从源域图自适应迁移至目标域图
域自适应:通过挖掘两个域之间的差异性,将源域(充足的带标签信息)的知识迁移至目标域(少量的不带标签数据)。
目前没有相关工作将域自适应充分应用在网络分析中。
目前的域适应学习存在以下的问题:
1.由于现在的应用所面对的数据都是独立同分布,因此只对模型的旋转不变性有少量的需求。然而,网络结构数据就需要模型的旋转不变性,因为图的异构性。因此,现存的方法都无法构建模型的网络结构信息。
2.现有的域自适应方法都是以有监督方法学习可区分性特征
虽然现有的针对图数据的域自适应方法同时利用GCNs和对抗学习策略能够提升跨域的节点分类性能,但是依旧有以下的问题:
1.在图结构层次,现有的方法,如GCN,只考虑了邻点的嵌入知识,而没有很好地利用全局的一致性信息
2.在表示学习层次,现有方法只是学习局部一致相关性的节点表示
3.在域自适应学习层面,现有的图域自适应仅利用域标签来帮助训练域分类器来建模源域和目标域的全局分布,其中梯度反转层(Unsupervised Domain Adaptive Graph Convolutional Networks
)被提出训练域分类器分辨样本是来自源域还是目标域。同时,利用源域数据训练源域分类器进行源域分类学习。然而,它们没有考虑目标域,忽略了目标域样本中包含的语义信息,这是跨域学习的关键组成部分。因此,需要协同考虑源领域信息、域信息和目标领域信息来学习域不变和语义表示
为了解决以上问题,通过构建每个图的局部和全局信息,以及将源域和目标域信息组合进统一的深度模型,提出Unsupervised Domain Adaptive Graph Convolutional Networks (UDA-GCN),以此实现跨域节点分类。该方法由三个关键部分组成:
(1)在数据结构层面,利用每个图的局部和全局一致性关系来辅助节点嵌入模块的训练。
(2)在表示学习层面,提出了一种基于内部图的注意机制,将局部和全局关系结合起来,得到各个域的节点表示。
(3)在域自适应学习层面,我们提倡一种域自适应学习方法,利用源信息、域信息和目标信息共同学习域不变信息和语义表示,有效地减少域差异,实现跨域节点分类。
在三个公共真实数据集上的实验结果表明,UDA-GCN优于目前的跨域节点分类方法。我们的贡献可以总结如下:
1)提出了一种新的无监督图域自适应问题,并提出了一种有效的图卷积网络算法来解决该问题。2)提出了一种融合局部和全局一致性以及注意机制的新方法来学习网络中有效的节点嵌入。
3)设计了一种利用源域信息和目标域信息的不同损失函数的方法,从而有效地学习域不变量和语义表示,以减少跨域节点分类的域差异。