这次主要想看一下图神经网络上的边是怎样去构建的。在图神经网络上边是一种信息传递的过程,但由于依靠的图不一样这种信息传递的类型也不一样,所以在思考这些边的构造是不是也应当各有特色,主要就看了5个,以后看到再更吧。
type-aware anchor link prediction across heterogeneous networks based on graph attention network
数据集:学者论文集
边的类型:
Embedding方法:对不同类型的边都有一种类型的weight,对于边指向的节点,这些节点使用attention的形式衔接在一起。
Composition-based Multi-Relational Graph Convolutional Networks
数据集:常识类知识图谱
边的类型:包括各种类型,正反向
Embedding方法:
对应3种边的方向,对于知识图网络来说剪头指向的两端都会有作用,所以就没有将前两项统一成一种。并且还加入了一种对于边会形成loop的情况设定的weight。之后对于节点的集中采用GCN的形式对各个节点进行信息传播。
End-to-end Structure-Aware Convolutional Networks for Knowledge Base Completion
数据集:常识类知识图谱
边的类型:知识图谱的各种类型
Embedding方法:采用transE方法增强信息的表达能力。TransE:es + er ≈ eo ,即一个目标实体可以由当前实体的向量+边向量的和组合而成。这种合成的信息可以看做kernel当作convolution的输入信息,这样组合起来成为Conv-TransE。(PS:是不是还会有Conv-TransR,Conv-RotatE。。。)
Multi-Label Classification with Label Graph Superimposing
数据集:图像分类的多标签任务
边的类型:标签的共现概率
Embedding方法:结合统计的共现概率和ConceptNet的结果直接对全联接矩阵赋值,如果两种关系都没有那么邻接矩阵会赋值为0,不允许通过。
Graphonomy: Universal Human Parsing via Graph Transfer Learning
数据集:图像分类的多标签任务
边的类型:可训练的邻接矩阵
Embedding方法:由于邻接矩阵是可训练的,所以没有什么特殊的编码方式。不过这篇文章重点在于怎么利用迁移学习的方法去整合多种关系图,所以这个时候这个邻接矩阵也是可以用于这种迁移的。
总结:感觉考虑边的信息更多的还是在知识图谱里,毕竟对于字比较好编码。比较意外的是对于后面两篇做label共现的边就直接这样过去了。。。比较意外。换一种角度想如果把这种共现的概率当作知识,而不是单纯的数值,会不会更好呢。。。但确实直接将概率赋值到邻接矩阵是一种最显而易见的做法。总觉得比较欠缺什么,感觉似乎这些边特征的处理方式还能在想一些更好的方法。。。